En exploitant une faille mise en évidence par un logiciel, un joueur américain de Go a très largement dominé l’intelligence artificielle de haut niveau KataGo.
KataGo au tapis
Depuis le lancement d’AlphaGo en 2016, l’intelligence artificielle n’a cessé de s’illustrer en battant les meilleurs joueurs humains de nombreux jeux de plateau, incluant les échecs, Stratego ou encore Diplomacy. Mais aussi avancés soient-ils, ces systèmes ne sont pas infaillibles. Le Financial Times a récemment rapporté le succès écrasant de Kellin Pelrine, qui s’est adjugé 14 des 15 manches l’ayant opposé à l’IA KataGo, développée par la société Lightvector.
La victoire de Pelrine a été rendue possible par un logiciel développé par le cabinet de recherche FAR AI. Après avoir joué plus d’un million de parties, le programme a détecté une faille pouvant être exploitée par un joueur amateur possédant un niveau « décent ». Une telle stratégie a également permis à l’américain de battre Leela Zero, autre IA de Go de haut niveau.
Selon Pelrine, celle-ci consiste à créer une grande « boucle » de pierres (équivalents des pions) afin d’encercler celles de son adversaire, puis de « détourner l’attention » de l’intelligence artificielle en effectuant des mouvements et actions dans d’autres zones du plateau de jeu. Malgré le fait qu’il soit presque encerclé, KataGo n’a pas été en mesure de contrer la stratégie mise en place, pourtant décrite par Pelrine comme « assez simple à cerner par un joueur humain ».
Une performance mettant en lumière les limites des systèmes d’IA actuels
Illustrant les limites des systèmes d’IA actuels, dont les performances sont très largement conditionnées par l’ensemble de données sur lesquelles ils sont entraînés, cette performance est évidemment très loin d’avoir réjoui les développeurs de KataGo.
« Nos adversaires, qui sont par ailleurs facilement battus par des amateurs humains, ne gagnent pas en apprenant à mieux jouer au Go que KataGo mais en le poussant à commettre de graves erreurs », ont-ils déclaré.
Consciente de la faille, qui serait exploitée par les joueurs humains depuis des mois, Lightvector a indiqué travailler sur un correctif pour une variété de stratégies la ciblant.
