La robotique est un domaine très innovant qui progresse à une vitesse folle. Bien ancrés dans cette tendance, des chercheurs ont développé un programme qui dote les robots de la capacité de bienveillance. Le résultat de l’expérience est impressionnant. DGS vous explique tout sur cette innovation fascinante.
Le roboticien Alan Winfield travaille au laboratoire de robotique de Bristol. Avec son équipe, il a mis au point un programme qui a rendu un robot bienveillant. Celui-ci s’est mis à empêcher d’autres machines de tomber dans un trou. Pour arriver à ce résultat, les scientifiques se sont inspirés de la première loi de la robotique inventée par Isaac Asimov dans ses oeuvres littéraires dédiées aux robots : « Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger. »
Le robot devait alors effectuer une tâche simple : porter secours à une autre machine. Le résultat a été un franc succès. Dès que le sauveur détectait qu’un congénère allait tomber dans un trou, il se déplaçait à toute vitesse pour le sauver en changeant sa trajectoire. Ensuite, les chercheurs ont placé deux robots à secourir en même temps, se dirigeant simultanément vers une mort certaine (symboliquement en tout cas). Il s’est avéré que 14 fois sur 33, l’être mécanique n’a pas su choisir à qui apporter son aide et n’a même pas agi, laissant les deux cibles tomber. Lorsqu’il prenait la décision d’en sauver un, il laissait l’autre à son sort. Mais dans certains cas, il a tout de même réussi à se placer de telle manière qu’il a empêché les deux robots de se diriger vers une mort certaine (symboliquement en tout cas).
Alan a parlé d’un phénomène qu’il nomme « zombie éthique ». Le robot sauveur ne se comporte que comme il le peut. Il est programmé pour porter secours à des entités bien précises, en adoptant une technique pré-programmée, mais il effectue cette tâche sans comprendre les raisons premières de ces actions. Avant d’avoir mené cette expérience, Alan était persuadé que les machines ne pouvaient pas faire de choix en suivant une éthique définie (ici, empêcher quelqu’un de tomber). Dorénavant, il n’en est plus si sûr. C’est peut-être bien possible, finalement.
Une chose est certaine, si les robots peuvent être programmés pour avoir la faculté de libre arbitre, cela pourrait changer beaucoup de choses. Etant donné qu’ils prennent une place de plus en plus importante dans notre vie quotidienne, c’est un sujet important à aborder. Par exemple, si vous êtes assis dans une voiture autonome, celle-ci doit prendre une décision lorsqu’un piéton traverse dangereusement. La sécurité de qui faut-il privilégier ? Celle du passager ou celle du piéton ? Un dilemme complexe.
Pour répondre à ces interrogations, des robots à usage militaire suivent déjà des sessions de tests à l’Institut Georgia Tech d’Atlanta ou encore au sein du département de recherche de la Marine des Etats-Unis. Ronald Arkin, chercheur en informatique, développe des algorithmes pour des machines qu’il a baptisées « gouverneurs éthiques » et qui aident les humains à prendre les bonnes décisions lorsqu’ils sont en plein combat (pour l’instant en simulation). Le facteur primordial pris en compte est la minimisation des pertes humaines.
D’après Ronald, il est aisé de programmer des robots à respecter des lois militaires car ce sont des codes bien connus et très balisés. D’un autre côté, un homme, qui possède des émotions, sera plus à même d’être troublé selon la situation, ce qui peut l’amener à prendre la mauvaise décision. Les recherches concernant l’éthique des robots en sont donc à leurs débuts mais elles avancent. Si un jour, des constructeurs parviennent à programmer des machines dans des environnements complexes sujets à des évènements imprévisibles, un immense champ de possibilités s’offrira à eux.
Nous sommes ravis d’apprendre que des robots puissent prendre des décisions par eux-mêmes. Nous imaginons déjà que des machines s’occupent de tâches qui nécessitent une concentration extrême et à toute épreuve sur de longues durées. A l’avenir, pourquoi pas inclure des pompiers robots à des équipes ou voir un avion totalement autonome sachant éviter les orages lui-même ? Bien sûr, cela nous inquiète aussi. Nous ne sommes pas encore prêts à laisser nos vies entre les mains de machines sans qu’un être humain soit là pour superviser le tout. Pensez-vous que dans le futur, notre sécurité puisse être mieux assurée par des robots ?
