Les accidents à cause de l’IA vont exploser cette année

Bien que l’IA puisse apporter de nombreux avantages, il y a eu des cas où son système a mal fonctionné, causant des dommages et des accidents. La base de données des incidents liés à l’IA recense plus de 500 erreurs, des quasi-accidents, des incidents critiques et quelques événements mortels. Ce qui nous alarme c’est que ce nombre augmente rapidement.

Un scénario désastreux calqué sur un film hollywoodien

Et si un jour ces fictions créées dans les studios de cinéma deviennent réelles ? L’évolution de l’intelligence artificielle semble si rapide qu’on a tendance à nous imaginer le pire, d’autant plus que les accidents du passé se comptent par centaines : le vol fatal de Lion Air de 2018 qui a tué les 189 passagers à bord, un robot de l’usine Volkswagen qui a tué un ouvrier en le coinçant sur une plaque de métal, un conducteur de Tesla Model S en mode pilotage automatique ayant percuté deux piétons à Gardena, à Los Angeles, et bien d’autres encore.

Lire aussi Regardez cette vidéo hilarante d’un robot-taxi qui a perdu le contrôle dans un rond-point

D’ailleurs, le Centre d’étude du risque existentiel de l’université de Cambridge, au Royaume-Uni, n’a pas caché ses inquiétudes face à l’avancée de l’IA. « Au fur et à mesure qu’un système d’IA devient plus puissant et plus général, il peut devenir super-intelligent – supérieur à la performance humaine dans de nombreux ou presque tous les domaines », déclare-t-il. En effet, il est important de se préoccuper de la compétence de ces « robots » à poursuivre un objectif que nous leur avons mal spécifié. Le pire scénario serait que nous finissions par être anéantis en leur fixant par inadvertance les mauvaises tâches.

Comment prévenir les accidents ?

Sean McGregor, un chercheur qui se concentre sur la collecte et l’analyse des incidents liés à l’IA, réalise des travaux largement reconnus dans la communauté de l’IA. Ils contribuent à la compréhension des risques et des défis liés à l’utilisation de ce système. McGregor est notamment connu pour avoir compilé une base de données d’incidents liés à l’IA appelée « AI Accident Database ». Cette base de données recense les incidents signalés dans les médias et les rapports gouvernementaux. Grâce à celle-ci, il a analysé les tendances et les facteurs communs qui ont conduit à ces incidents, afin de mieux comprendre les risques et les défis associés à l’IA.

En 2023, l’objectif sera donc de légiférer, mais aussi de contenir cette nouvelle technologie ultra-puissante qui commence parfois à prendre ses aises. Sean McGregor conseille ainsi de remplacer mentalement « IA » par « feuille de calcul » pour dépasser le battage médiatique et ne pas attribuer des intentions à des programmes informatiques. Et ne pas se tromper de coupable en cas de défaillance.

Lire aussi Un robot en forme de pneu et équipé de gaz lacrymogène testé par la police en Chine