— agsandrew / Shutterstock.com

Depuis quelques années, de plus en plus de chercheurs, d’entrepreneurs et d’inventeurs mettent en garde contre le développement d’intelligences artificielles de plus en plus sophistiquées qui pourraient, un jour, sonner le glas de l’humanité. Mais doit-on vraiment tenir compte de ces avertissements ?

Nos chances de contrôler une IA super-intelligente sont nulles

La majorité d’entre nous pensent qu’étant donné que l’intelligence artificielle est une invention humaine, alors on devrait toujours savoir comment la contrôler et, si besoin est, comment la détruire. Toutefois, cela n’est pas si simple. Une étude parue dans le Journal of Artificial Intelligence Research répond à la question de savoir quelles sont nos chances de pouvoir contrôler une super-intelligence informatique de haut niveau. La réponse est : quasiment nulles.

Loin de vouloir nous faire peur, les scientifiques nous expliquent juste que contrôler une super-intelligence exigerait qu’on puisse l’analyser. Cependant, si nous ne sommes pas en mesure de comprendre son fonctionnement, la contrôler devient une mission impossible.

Pourtant, à côté de cela, imposer aux robots des règles comme « ne pas nuire aux humains » ne serait plus suffisant pour l’intelligence artificielle. Mais le problème reste le même : une fois que nos programmeurs ne seront plus en mesure de comprendre un système informatique, alors nous ne pourrons plus contrôler ces intelligences artificielles.

— Preechar Bowonkitwanchai / Shutterstock.com

Certaines machines apprennent déjà à faire des tâches complexes toutes seules

Pour résoudre ce problème, les scientifiques ont avancé deux alternatives, soit apprendre l’éthique à l’intelligence artificielle, soit limiter ses capacités. Mais ces deux alternatives ont été rejetées par les chercheurs. La raison en est que selon les chercheurs, rien ne garantit qu’un algorithme ne s’en prendra pas à un humain ou au monde, et pour la seconde option, l’intelligence artificielle étant censée résoudre les problèmes dépassant l’entendement humain, réduire ses capacités reviendrait à la rendre inutile pour nous.

Selon les chercheurs, la seule option que l’on pourrait aborder est de savoir, dès à présent, comment contrôler l’intelligence artificielle. Cependant, l’informaticien Manuel Cebrian de l’Institut Max-Planck pour le développement humain a révélé qu’actuellement « il existe déjà des machines qui effectuent certaines tâches importantes de manière indépendante sans que les programmeurs comprennent entièrement comment elles les ont apprises ».

Serions-nous déjà en train d’être dépassés par l’intelligence artificielle ?

7
COMMENTEZ

connectez-vous pour commenter
avatar
3 Fils de commentaires
4 Réponses de fil
0 Abonnés
 
Commentaire avec le plus de réactions
Le plus populaire des commentaires
7 Auteurs du commentaire
Claude OuellettemiroJean-MarcWallemacqEMI48 Auteurs de commentaires récents
  S’abonner  
plus récent plus ancien Le plus populaire
Notifier de
Etienne
Invité
Etienne

En tout cas, une intelligence artificielle super douée n’a pas relu l’article. Les journaleux ont une forte tendance à utiliser le terme alternative au lieu de possibilité, c’est plus classe certainement. Une alternative, c’est un choix entre deux possibilités, en l’occurrence, ici, il y a une alternative. Deux alternatives, ce… Lire la suite »

marianne meyvaert
Invité
marianne meyvaert

Etienne fait la leçon aux journalistes, mais il perd de vue une chose : la seule alternative consisterait à détruire, avant qu’elles n’en prennent l’initiative, ces machines ! J’appartiens au monde scientifique et témoigne qu’on s’y inquiète réellement d’avoir joué à l’apprenti sorcier. On a mis en route des créatures,… Lire la suite »