12 430 personnes connectées

Découvrez comment l’intelligence artificielle de Microsoft est devenue raciste et sexiste en observant les humains

tay-intelligence-artificielle-ordinateur-une

En mars 2016, l’entreprise Microsoft a mis en ligne l’intelligence artificielle Tay, censée pouvoir converser avec les internautes sur Twitter. Mais 24 heures plus tard, la société américaine se devait de retirer son dispositif de la Toile à cause des propos qu’elle avait fini par tenir. SooCurious vous explique comment un tel système a pu en arriver là.

Lorsque Microsoft mettait en ligne, durant le courant du mois de mars 2016, l’intelligence artificielle Tay, l’entreprise était loin de se douter que son dispositif finirait par basculer dans le négationnisme, le conspirationnisme, ou pire encore, le raciste et l’antisémitisme. Pourtant, quelques heures plus tard, le système s’emballait, la faute à ses interlocuteurs sur la Toile.

IA-1 Une intelligence artificielle via Shutterstock

A l’origine, l’ordinateur avait pour but de reproduire les réponses d’une adolescente, d’où son nom évocateur : Tay. Pour ce faire, l’intelligence artificielle (ou IA) puisait parmi des réponses pré-écrites par une équipe de Microsoft et surtout, sur ce qu’elle pouvait trouver dans son environnement : le Web. Au final, le robot était censé améliorer ses capacités conversationnelles au contact des humains avec lesquels il interagissait.

Mais dès son lancement, une foule d’internautes malintentionnés décidèrent de détourner la finalité du système. A cette fin, ils le bombardèrent de messages en tous genres, majoritairement haineux, afin de pousser Tay à insulter diverses communautés ou utilisateurs de Twitter, où à tenir des propos choquants.

Tay-1

Parmi les principaux acteurs de ce détournement, certains n’avaient d’autre but que de « faire planter » l’IA, de l’aveu même d’un internaute du forum 4chan. En somme, une manière de tester les limites d’un robot destiné à converser avec l’Homme. Mais parmi ces détracteurs numériques, d’autres semblaient avoir un objectif moins scientifique.

C’est le cas, semble-t-il, de « twittos » adeptes de courants de pensée particulièrement décalés. Comme les disciples du GamerGate, un mouvement en ligne antiféministe et libertarien dont certains membres ont encouragé Tay à soutenir leurs idées. Au sein de ces partisans du GamerGate, on retrouve notamment MisterMetokur, un antiféministe influent sur la Toile, et qui a grandement participé à initier le mouvement pour le déraillement de Tay.

Twitter Un homme utilise Twitter via Shutterstock

Autre motivation, tout aussi discutable, celle de promouvoir la liberté d’expression, sans limite aucune. C’est le cas notamment de Brighton E. Whytock, le premier internaute à avoir évoqué l’idée de détourner Tay. Sur Internet, cet utilisateur affiche une motivation clairement politique et se revendique adepte du libertarianisme, un mouvement anglo-saxon qui prône une liberté d’expression absolue, celle-ci incluant les propos racistes, négationnistes ou même insultants. Il affirme ainsi être « 100 % fan de Trump ».

Finalement, le système fut retiré au bout de quelques heures par Microsoft qui déclara : « Malheureusement, dans les vingt-quatre premières heures de sa mise en ligne, nous avons été alertés d’un effort coordonné de certains utilisateurs pour abuser des compétences de Tay pour la faire répondre de manière inappropriée. En conséquence, nous l’avons mise hors ligne et procédons à des ajustements. »

IA-2 Une intelligence artificielle via Shutterstock

La mise en ligne de Tay a été réitérée après cette première expérience, mais sans tellement plus de succès. Et si cet essai montre les capacités, pour l’instant limitées, de l’intelligence artificielle, il montre aussi la volonté de l’Homme à éprouver, si ce n’est à dégrader, les inventions les plus innocentes. Si ce type d’innovations vous intéresse, découvrez comment une intelligence artificielle, AlphaGo, a surpassé un champion de ce jeu qui figure parmi les plus stratégiques du monde.

Ces articles vont vous plaire

Accompagnez-nous sur les réseaux sociaux