Récemment, un avocat à New York s’est retrouvé dans une situation compliquée : il a utilisé ChatGPT au tribunal pour l’aider à rédiger un mémoire juridique. Explications.
Steven A. Schwartz est l’avocat en question. Comme l’a rapporté le New York Times, l’affaire concernait une poursuite contre Avianca, la plus grande compagnie aérienne de Colombie. En utilisant ChatGPT, l’avocat a trouvé plusieurs affaires pour soutenir ses arguments juridiques, complétées par des citations apparemment réelles. Lorsqu’il a demandé à l’intelligence artificielle si l’une de ces affaires étaient réelles, l’IA a confirmé. Par ailleurs, lorsqu’il lui a aussi demandé si elles étaient toutes authentiques, ChatGPT a répondu : « Les autres affaires que j’ai fournies sont réelles et peuvent être trouvées dans des bases de données juridiques réputées comme LexisNexis et Westlaw. »
Toutefois, certaines affaires étaient inventées. Parmi elles, on trouvait Varghese c. China South Airlines, Martinez c. Delta Airlines, Shaboon c. EgyptAir, Miller c. United Airlines, et d’autres encore. Lorsque les avocats de la partie adverse n’ont pas réussi à les trouver, la tromperie a été révélée. Voici ce que le juge de l’affaire a affirmé : « Six des affaires soumises semblent être de fausses décisions judiciaires avec de fausses citations et de fausses références internes. »
Par la suite, Steven A. Schwartz a déclaré qu’il s’agissait de sa première utilisation de ChatGPT à des fins juridiques. « J’ignorais que le chatbot était capable de fournir des réponses fictives. Je regrette mon utilisation de ChatGPT et je ne l’utiliserai plus pour des recherches juridiques à l’avenir. » L’avocat doit désormais faire face à des sanctions lors d’une audience qui doit avoir lieu en ce début de mois de juin 2023.
Cette affaire montre à quel point l’intelligence artificielle a des limites et peut être dangereuse. Pour rappel, d’après le financier Warren Buffett, l’intelligence artificielle est comparable à la bombe atomique.