Une IA dupe les joueurs humains lors des phases de négociations d’un célèbre jeu de plateau

Une intelligence artificielle développée par Meta, société mère de Facebook, a récemment participé aux phases de négociations de la version en ligne de Diplomacy, sans que la plupart des joueurs humains ne se doutent qu’ils parlaient à une machine.

L’intelligence artificielle Cicero

Célèbre jeu de stratégie ayant pour cadre l’Europe du début du XXe siècle, Diplomacy réunit idéalement sept joueurs contrôlant les forces militaires de l’une des « grandes puissances » de l’époque : l’Angleterre, la France, l’Allemagne, l’Italie, l’Autriche-Hongrie, la Russie et la Turquie. Si les participants s’affrontent pour le contrôle des différents territoires, la coopération occupe également un rôle central, avec les négociations d’alliances temporaires permettant de coordonner les déplacements de troupes et les attaques.

Lire aussi Cette startup organise une cérémonie étrange avec une femme aux fils lui sortant du dos

Conçue par des chercheurs de Meta, l’IA Cicero s’était illustrée en octobre dernier en battant des joueurs humains experts dans une version simplifiée de Diplomacy, n’impliquant pas de phases de négociations. Dans le cadre de travaux détaillés dans la revue Science, l’équipe a doté cette dernière d’une composante linguistique lui permettant d’interpréter et de générer des messages crédibles.

Son algorithme a été entraîné sur près de 13 millions de messages humains provenant de plus de 40 000 parties de Diplomacy, ce qui a permis à ce dernier de « comprendre l’intention humaine et d’utiliser cette information pour guider ses actions », selon ses créateurs. Dans le même temps, l’IA de Meta a utilisé sa capacité de raisonnement stratégique pour générer des messages liés à ses objectifs dans le jeu.

Des performances impressionnantes

Les chercheurs ont ensuite inscrit « anonymement » l’IA à 40 parties de Diplomacy organisées par une ligue en ligne de joueurs humains. En l’espace de 72 heures de jeu, Cicero a envoyé 5 277 messages à ces derniers, et il se trouve que quasiment aucun d’entre eux ne s’est rendu compte qu’il communiquait avec une intelligence artificielle. Un seul a soupçonné, lors d’une discussion post-partie, que l’un des comptes derrière lesquels l’IA se cachait était possiblement une machine.

Lire aussi La startup Sauron révolutionne la sécurité domestique avec cette technologie controversée

« Ce qui m’impressionne vraiment, c’est la façon dont le raisonnement stratégique et les modèles linguistiques s’associent », commente Julian Togelius de l’université de New York.

Pour les concepteurs d’IA linguistiques, l’un des principaux défis consiste à limiter au maximum les biais. Cicero ayant tendance à supposer que les joueurs étaient des hommes (ce qui était amplifié par le fait que les joueurs humains utilisaient souvent un langage agressif ou militariste propre à Diplomacy), les chercheurs de Meta ont expliqué avoir mis au point des filtres linguistiques qui ont permis d’atténuer largement ce phénomène.

Une avancée importante dans le domaine de l’IA

Si les prouesses de Cicero sont intervenues sur la version en ligne de Diplomacy, où chaque tour de négociations est limité à 5 minutes, ce qui lui a sans doute offert un avantage de taille et permis de duper plus facilement les joueurs humains, il s’agit d’une avancée importante dans le domaine de l’intelligence artificielle.

Lire aussi Ne demandez surtout pas à Sora, l’intelligence artificielle d’OpenAI, de créer des vidéos de gym

Surclassant la plupart de ses adversaires humains (Cicero s’est classé dans les 10 % des meilleurs joueurs), l’IA de Meta a généralement adopté une approche honnête et coopérative dans les négociations, quand la plupart des joueurs humains ont recours à la tromperie et au mensonge, mais cela ne signifie pas pour autant qu’elle était complètement naïve.

« Il y a aussi des situations où elle peut retenir des informations stratégiquement précieuses pour l’aider à atteindre ses objectifs », conclut Dinan.