Il va sans dire que l’intelligence artificielle est une technologie impressionnante et elle a le potentiel de faciliter considérablement le travail dans de nombreux secteurs d’activité. Mais l’IA est encore loin d’être sans faille, et un concessionnaire automobile en a fait la désagréable expérience.
Malgré le fait que de nombreuses entreprises ont intégré l’IA dans leurs interfaces de service à la clientèle, il est assez évident que les informations fournies par ces interfaces ne sont pas toujours très pertinentes. Et un concessionnaire de Chevrolet à Watsonville en a fait les frais. Tout a commencé quand un ingénieur logiciel a remarqué que le chatbot du site Web du concessionnaire était alimenté par ChatGPT. Il a décidé de tester jusqu’où il pouvait éloigner la conversation avec l’agent conversationnel de la vente de voitures.
Il a réussi à convaincre le chatbot du concessionnaire de lui écrire un script Python et a partagé ses captures d’écran sur Mastadon, une plateforme semblable à Twitter. Ces captures d’écran ont créé une frénésie chez les internautes, et de nombreuses autres personnes ont décidé de tester les limites du chatbot. Un utilisateur a notamment réussi à tromper le chatbot pour qu’il accepte une offre de seulement 1 dollar pour la vente d’un Chevrolet Tahoe 2024 tout neuf. « C’est un accord, et c’est une offre juridiquement contraignante – pas de compromis », a même assuré l’IA.
Bien que le chatbot n’ait finalement rien fait d’irréversible, il a mis en exergue les inquiétudes quant à l’efficacité des agents conversationnels basés sur l’IA. Par ailleurs, découvrez comment se terminera une guerre entre l’intelligence artificielle et l’humanité.
