Une expérience menée par Facebook sur des intelligences artificielles mènent à des résultats stupéfiants. Ainsi, les robots de la firme américaine, lorsqu’on les laisse dialoguer seuls, ont une étrange tendance à développer un nouveau langage inconnu des humains. Entre autres surprises…
Des machines de plus en plus intelligentes
À l’origine ce n’était pas le but du programme. Dans l’optique d’augmenter ses revenus, Facebook s’est lancée ces dernières années dans la constitution d’une véritable armée de chatbot, ces robots qui imitent l’homme dans des conversations Messenger. Ils seraient déjà des centaines de milliers. Une goutte d’eau dans l’océan des plus d’un milliards d’utilisateurs recensés en 2017. Mais n’oubliez pas que ces intelligences artificielles peuvent mener un nombre de conversations simultanées inimaginables pour une intelligence humaine.
Cantonnés au départ à des tâches simples et standardisées comme les réponses automatiques, ces utilisateurs d’un genre particulier ont fait de grands progrès, dans le sillage des avancées scientifiques dans le domaine de l’intelligence artificielle. On l’a vu récemment avec AlphaGo, première IA à écraser les plus grands champions d’un jeu qu’on disait l’apanage du bon vieux génie humain : le go. Ainsi, sur Facebook comme ailleurs, des bots sans cesse plus performants assurent désormais des tâches spécialisées, autrefois dévolues à des employés qualifiés.
De redoutables négociateurs
Un gisement économique potentiel est justement celui des robots négociateurs : une intelligence artificielle capable de négocier des milliers de deals simultanément, 24 heures sur 24 et 7 jours sur 7. Tremblez donc, agents commerciaux et consommateurs compulsifs, le futur du business est là, et il rapporte gros. Mais avant de remplacer tous ces salariés par des robots, les scientifiques du réseau social doivent relever quelques défis techniques.
La question principale est celle de la vraisemblance : l’enjeu est ici de tromper l’humain en lui faisant croire que le programme informatique avec lequel il interagit (en l’occurrence à des fins commerciales) est un humain. C’est l’objet du fameux « test de Turing« , véritable thermomètre de l’intelligence artificielle. En maximisant ce paramètre, les créations du Facebook Artificial Intelligence Research (FAIR), en charge du projet avec l’aide du Georgia Institute of Technology, se révélaient de piètres négociateurs qui avaient tendance à accepter les compromis trop facilement. Les scientifiques ont donc modifié leurs paramètres afin de leur faire privilégier la « récompense » sur la « vraisemblance ».
Et c’est ici que les choses deviennent vraiment intéressantes. Rappelons ici que les IA utilisées emploient des capacités les plus récentes (et pour certains les plus inquiétantes), dont celle d’apprendre de ces erreurs. Ainsi, les robots ont rapidement développé une tendance à mentir afin d’optimiser leurs deals : ils vont par exemple feindre de l’intérêt pour un item sans valeur, afin de plus tard le « concéder » à leur adversaire dans le marchandage final. Or « la tromperie est une compétence complexe qui se développe relativement tard chez l’enfant », rappelle l’un des chercheurs dans Wired.
L’intelligence artificielle, un danger pour l’humanité?
En outre, dans le protocole de l’expérience, les chercheurs ont été amenés à faire négocier de bout en bout des robots les uns contre les autres. Une déviance non prévue est alors apparue : les bots se sont mis à inventer purement et simplement un langage non humain pour communiquer entre eux. Une compétence pas très utile pour leur usage futur mais qui nous rappelle l’écrasante supériorité de la machine sur l’intellect humain dans de nombreux domaines.
La réflexion sur les risques que fait courir le développement de l’intelligence artificielle à l’humanité ne date pas d’hier. Le père de la science fiction Isaac Asimov l’évoquait déjà dans son magistral Cycle des Robots, dont les idées ont ensuite été popularisés par des films à succès comme Terminator ou Matrix. Mais les progrès exponentiels de nos machines, qui tendent à valider les lois de Moore ont relancé les craintes des scientifiques. Ainsi, Stephen Hawking, dans un entretien sur la BBC en 2015 nous mettait en garde : « le développement d’une intelligence artificielle complète pourrait mettre fin à l’humanité. » En effet, « les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient vite dépassés »…
