Les chatbots d’intelligence artificielle sont condamnés à nous mentir, selon les experts

Les chatbots comme ChatGPT ont tendance à mentir et à inventer des informations. D’après certains experts, cela ne peut être corrigé et ils sont condamnés à partager des mensonges. Explications.

« Je ne pense pas qu’il existe aujourd’hui un modèle qui ne souffre pas d’hallucinations », a déclaré à l’Associated Press Daniela Amodei, co-fondatrice et présidente d’Anthropic, fabricant du chatbot AI Claude 2. « Ils sont en quelque sorte conçus pour prédire le mot suivant. Et il y aura donc un certain rythme auquel le modèle le fera de manière inexacte. »

Lire aussi Regardez cette vidéo hilarante d’un robot-taxi qui a perdu le contrôle dans un rond-point

Alors que les entreprises explorent de nouvelles manières d’utiliser l’intelligence artificielle, elles pourraient être confrontées à des revers majeurs. « Ce n’est pas réparable », a expliqué à son tour à l’Associated Press Emily Bender, professeure de linguistique et directrice du laboratoire de linguistique informatique de l’université de Washington. « C’est inhérent à l’inadéquation entre la technologie et les cas d’utilisation proposés. Ce n’est que par hasard que le texte généré se révèle être interprétable comme quelque chose que nous jugeons correct. »

Les leaders de la technologie sont cependant optimistes. « Je pense que nous allons résoudre le problème des hallucinations dans un bien meilleur endroit », a rapporté le PDG d’OpenAI, Sam Altman. « Je pense que ça va nous prendre un an et demi, deux ans. Quelque chose comme ça. »

Pour rappel, les experts nous avertissent également que l’intelligence artificielle est utilisée pour vous espionner.

Lire aussi Un robot en forme de pneu et équipé de gaz lacrymogène testé par la police en Chine