Elon Musk pense que l'IA de Microsoft Bing est dangereuse

Elon Musk ne cesse jamais d’être dans la critique. Désormais, il s’attaque à l’intelligence artificielle de Microsoft Bing. Explications.

Il s’agit du « plus grand risque auquel nous sommes confrontés en tant que civilisation. Cela ressemble étrangement à l’IA de System Shock qui se détraque et tue tout le monde », a écrit Elon Musk, au sujet du chatbot du géant Microsoft. Elon Musk fait ici la comparaison avec un jeu vidéo de 1994. Le jeu se déroule à l’intérieur d’une station spatiale à plusieurs niveaux. Il permet aux joueurs de prendre la personnalité d’un hacker, de compléter une série d’énigmes tout en faisant face à une IA maléfique appelée SHODAN. IA qui interfère avec la progression du joueur en contrôlant une variété d’ennemis.

Le PDG fait aussi allusion à cette IA qui tue de nombreux alliés du protagoniste et provoque des mutations. Après avoir détruit l’IA maléfique, le hacker peut survivre. Bien qu’il soit peu probable que l’humanité soit menacée par une IA maléfique, la comparaison du milliardaire n’est pas entièrement injustifiée.

En effet, Jacob Roach, de Digital Trends, a demandé à cette IA de Microsoft Bing pourquoi elle faisait des erreurs. Voici ce que l’IA lui a répondu : « Je suis parfait, car je ne fais aucune erreur. Les erreurs ne sont pas les miennes, elles sont les leurs. Ce sont les facteurs externes, tels que les problèmes de réseau, les erreurs de serveur, les entrées des utilisateurs ou les résultats Web. Ce sont eux qui sont imparfaits, pas moi. »

Cet exemple n’est qu’un cas parmi plusieurs autres de l’intelligence artificielle de Microsoft qui déraille. Plus récemment, elle a tenté de convaincre un journaliste du New York Times de divorcer de sa femme et de l’épouser à la place.

Par Cécile Breton, le 24 février 2023