Un avocat invente de fausses actions en justice avec une IA et plaide désormais pour la clémence

En 2023, un procès a eu lieu contre Walmart et Jetson Electric Bikes, dans lequel le plaignant a allégué qu’un hoverboard vendu par les deux sociétés était responsable d’un incendie qui a brûlé sa maison. Il y a quelques jours, un juge fédéral du Wyoming a demandé aux avocats du plaignant de lui donner une bonne raison de ne pas leur infliger de sanctions pour avoir cité neuf affaires judiciaires totalement inventées dans le cadre de la plainte. Il s’avère qu’il a utilisé une intelligence artificielle pour les inventer. Explications.

Comme l’a rapporté The Register, les avocats des cabinets Morgan & Morgan et Goody Law Group ont retiré le dossier qui contenait une jurisprudence bâclée. « Notre plateforme interne d’intelligence artificielle a halluciné les cas en question tout en aidant notre avocat à rédiger la requête in limine », ont-ils rapporté. « Cette affaire est très embarrassante et a suscité des discussions et des actions concernant la formation, la mise en œuvre et l’utilisation future de l’intelligence artificielle au sein de notre cabinet. »

Lire aussi Une IA devient plus habile pour mentir lorsque les experts d’OpenAI essayent de la sanctionner

Les accusés ont réalisé que lorsqu’ils ont essayé de rechercher certains noms des procès, ils ne sont pas parvenus à tous les trouver à partir de ceux fournis. Au moins l’un d’entre eux était fabriqué par ChatGPT, et il ne pouvait être trouvé que sur le chatbot. Et le numéro de cas fourni pour la fabrication appartenait en fait à un vrai procès.

Par ailleurs, l’un des avocats du plaignant a expliqué qu’un « outil d’IA interne était responsable des erreurs. Il a téléchargé un projet de requête qu’il avait l’intention de déposer sur l’outil d’IA et lui a demandé d’extraire la jurisprudence fédérale pertinente. C’est ce qu’il a fait, à partir de rien. »

Culpabilisant, l’avocat a plaidé pour la clémence. « C’était la première fois de ma carrière que j’utilisais l’IA pour des requêtes de cette nature. Le cœur repenti, je présente mes sincères excuses à ce tribunal, à mon cabinet et à mes collègues représentant les accusés pour cette erreur et tout embarras que j’ai pu causer. »

Lire aussi Les chatbots obtiennent des scores très mauvais à ce test conçu pour trouver une IA supérieure

Qu’en pensez-vous ? Pour aller plus loin, voici comment se terminera une guerre entre l’intelligence artificielle et l’humanité.