Robot tueurs : les chercheurs et industriels demandent à l’ONU d’agir avant qu’il ne soit trop tard

Les scientifiques et les experts en intelligence artificielle sont nombreux à le clamer : les robots tueurs autonomes sont un danger pour l’humanité. Parmi les plus acharnés d’entre eux, on retrouve Elon Musk qui met déjà en garde le monde entier, depuis des années, contre cette nouvelle menace. Dans une lettre ouverte, ce ne sont pas moins de 116 signataires qui se joignent à lui et demandent à l’ONU d’agir avant qu’il ne soit trop tard.

Une lettre ouverte à l’ONU pour interdire les robots tueurs autonomes

116 signataires et une demande : « Interdire les robots tueurs autonomes ». Le danger ? Faire la guerre à grande échelle de manière incontrôlée. En effet, qu’il s’agisse d’armes autonomes ouvrant le feu sur des intrus ou de robots et drones plus sophistiqués, avec ce type de technologie, l’Homme n’aura pas à intervenir. Ils pourront être utilisés contre les populations humaines innocentes en toute impunité ou détournés pour servir les terroristes. Une course à l’armement sans précédent pourrait alors bien voir le jour, et ses conséquences pourraient être catastrophiques pour l’humanité.

Comme les scientifiques et les experts l’écrivent dans la lettre : « les armes autonomes mortelles menacent de devenir la troisième révolution dans la guerre. Une fois développés, les robots autonomes permettront de lutter contre les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides […]. Ceux-ci peuvent être des armes de terreur, des armes que des despotes et des terroristes utilisent contre des populations innocentes, et des armes piratées pour agir de manière indésirable ».

« Une fois que la boîte de Pandore est ouverte, il est très difficile de la refermer »

L’auteur principal de la lettre, Toby Walsh, explique à la chaîne ABC que « plutôt que les intelligences artificielles intelligentes, ce sont les intelligences artificielles stupides qui nous inquiètent en ce moment ». Les armes autonomes sont au stade de prototypes, mais arriveront d’après lui sur le marché de la guerre dans deux ou trois ans.

La lettre a été présentée lors de l’International Joint Conference on Artificial Intelligence (IJCAI) qui se déroule du 21 au 25 août à Melbourne et réunit chefs d’industrie et chercheurs en intelligence artificielle pour discuter d’automatisation du travail, de robots tueurs et de superintelligence artificielle.

Des experts et des scientifiques alarmistes et concernés

Ce n’est pas la première fois que la communauté scientifique et les experts en intelligence artificielle alertent le monde sur certaines technologies et mettent en garde contre une course à l’armement à l’échelle mondiale.

Comme ils l’expliquent eux-mêmes, « en tant qu’entreprises qui développent les technologies d’intelligence artificielle et de la robotique qui peuvent être réorientées pour développer des armes autonomes, nous nous sentons particulièrement responsables ».

En effet, parmi les signataires, Elon Musk, fondateur de SpaceX et PayPal, est intimement lié à la robotique et aux intelligences artificielles. « Je me suis exposé à l’IA de pointe, et je pense que les gens devraient vraiment s’en préoccuper », explique t-il. « Je continue à sonner la sonnette d’alarme, mais jusqu’à ce que les gens voient des robots descendre dans les rues en tuant des gens, ils ne savent pas vraiment comment réagir […] ».

La lettre conclue que « le point final de cette trajectoire technologique est évident : les armes autonomes deviendront les Kalachnikov de demain ». « La question clé pour l’humanité aujourd’hui est de savoir s’il faut commencer une course d’armement mondiale à l’AI ou empêcher qu’elle commence ».

Les robots tueurs autonomes pourraient être une véritable menace pour l’humanité

L’ONU met actuellement en place un groupe d’experts sur les systèmes d’armes autonomes mortelles. Les signataires de la lettre sont impatients d’offrir leur expertise afin d’éradiquer cette menace avant qu’elle ne devienne trop importante. On espère bien que l’ONU et la communauté internationale sauront agir en conséquence et éviteront la « troisième révolution dans la guerre ».

Par Precila Rambhunjun, le 23 août 2017