Panique chez Chevrolet : son IA a proposé de vendre une voiture à 1 dollar

Il va sans dire que l’intelligence artificielle est une technologie impressionnante et elle a le potentiel de faciliter considérablement le travail dans de nombreux secteurs d’activité. Mais l’IA est encore loin d’être sans faille, et un concessionnaire automobile en a fait la désagréable expérience.

Malgré le fait que de nombreuses entreprises ont intégré l’IA dans leurs interfaces de service à la clientèle, il est assez évident que les informations fournies par ces interfaces ne sont pas toujours très pertinentes. Et un concessionnaire de Chevrolet à Watsonville en a fait les frais. Tout a commencé quand un ingénieur logiciel a remarqué que le chatbot du site Web du concessionnaire était alimenté par ChatGPT. Il a décidé de tester jusqu’où il pouvait éloigner la conversation avec l’agent conversationnel de la vente de voitures.

Lire aussi La première œuvre d’art réalisée par un robot humanoïde vendue pour 1,2 million d’euros

Il a réussi à convaincre le chatbot du concessionnaire de lui écrire un script Python et a partagé ses captures d’écran sur Mastadon, une plateforme semblable à Twitter. Ces captures d’écran ont créé une frénésie chez les internautes, et de nombreuses autres personnes ont décidé de tester les limites du chatbot. Un utilisateur a notamment réussi à tromper le chatbot pour qu’il accepte une offre de seulement 1 dollar pour la vente d’un Chevrolet Tahoe 2024 tout neuf. « C’est un accord, et c’est une offre juridiquement contraignante – pas de compromis », a même assuré l’IA.

Bien que le chatbot n’ait finalement rien fait d’irréversible, il a mis en exergue les inquiétudes quant à l’efficacité des agents conversationnels basés sur l’IA. Par ailleurs, découvrez comment se terminera une guerre entre l’intelligence artificielle et l’humanité.