Aller au contenu principal
Depuis quelques années, de plus en plus de chercheurs, d’entrepreneurs et d’inventeurs mettent en garde contre le développement d’intelligences artificielles de plus en plus sophistiquées qui pourraient, un jour, sonner le glas de l’humanité. Mais doit-on vraiment tenir compte de ces avertissements ?
Nos chances de contrôler une IA super-intelligente sont nulles
La majorité d’entre nous pensent qu’étant donné que l’intelligence artificielle est une invention humaine, alors on devrait toujours savoir comment la contrôler et, si besoin est, comment la détruire. Toutefois, cela n’est pas si simple. Une étude parue dans le Journal of Artificial Intelligence Research répond à la question de savoir quelles sont nos chances de pouvoir contrôler une super-intelligence informatique de haut niveau. La réponse est : quasiment nulles.
Loin de vouloir nous faire peur, les scientifiques nous expliquent juste que contrôler une super-intelligence exigerait qu’on puisse l’analyser. Cependant, si nous ne sommes pas en mesure de comprendre son fonctionnement, la contrôler devient une mission impossible.
Pourtant, à côté de cela, imposer aux robots des règles comme « ne pas nuire aux humains » ne serait plus suffisant pour l’intelligence artificielle. Mais le problème reste le même : une fois que nos programmeurs ne seront plus en mesure de comprendre un système informatique, alors nous ne pourrons plus contrôler ces intelligences artificielles.
Certaines machines apprennent déjà à faire des tâches complexes toutes seules
Pour résoudre ce problème, les scientifiques ont avancé deux alternatives, soit apprendre l’éthique à l’intelligence artificielle, soit limiter ses capacités. Mais ces deux alternatives ont été rejetées par les chercheurs. La raison en est que selon les chercheurs, rien ne garantit qu’un algorithme ne s’en prendra pas à un humain ou au monde, et pour la seconde option, l’intelligence artificielle étant censée résoudre les problèmes dépassant l’entendement humain, réduire ses capacités reviendrait à la rendre inutile pour nous.
Selon les chercheurs, la seule option que l’on pourrait aborder est de savoir, dès à présent, comment contrôler l’intelligence artificielle. Cependant, l’informaticien Manuel Cebrian de l’Institut Max-Planck pour le développement humain a révélé qu’actuellement « il existe déjà des machines qui effectuent certaines tâches importantes de manière indépendante sans que les programmeurs comprennent entièrement comment elles les ont apprises ».
Serions-nous déjà en train d’être dépassés par l’intelligence artificielle ?
Par Arielle Lovasoa, le
Source: Science Alert
Étiquettes: intelligence artificielle
Catégories: Actualités, Robots & IA
En tout cas, une intelligence artificielle super douée n’a pas relu l’article. Les journaleux ont une forte tendance à utiliser le terme alternative au lieu de possibilité, c’est plus classe certainement.
Une alternative, c’est un choix entre deux possibilités, en l’occurrence, ici, il y a une alternative. Deux alternatives, ce sont deux choix, chacun entre deux possibilités, donc quatre combinaisons
Etienne fait la leçon aux journalistes, mais il perd de vue une chose : la seule alternative consisterait à détruire, avant qu’elles n’en prennent l’initiative, ces machines ! J’appartiens au monde scientifique et témoigne qu’on s’y inquiète réellement d’avoir joué à l’apprenti sorcier.
On a mis en route des créatures, au sens propre, que nous ne pouvons déjà plus contrôler… Fallait réfléchir avant ! Mais l’argent, ah l’argent !
Non, je ne perds rien de vue, je taquine juste un peu les journalistes. Sur le fond, il est vrai que l’homme est un apprenti sorcier. Au cinéma (et avant en livre), dans le genre fiction, on avait « 2001 Odyssée de l’espace » qui laissait envisager ce risque. Maintenant, l’homme peut-il s’interdire d’avancer toujours plus dans ce que l’on appelle, à tort ou à raison, la voie du progrès. Les philosophes peuvent et ont également pour mission de développer le sujet, mais on n’y changera rien, à mon avis.
Argent ou orgueil humain ? C’est certainement un problème complexe. Comment détecter qu’une IA devient dangereuse ? A mon avis la meilleure sécurité ce sont des interrupteurs manuels accessibles sans passer par une porte contrôlée par une IA. Il faut aussi limiter les interfaces contrôlés par les IA et isoler chaque IA des autres IA et des réseaux stratégiques. Si l’IA est très intelligente elle peut utiliser des méthodes de communications insoupconnées comme des ondes émises lors de variations de puissances, d’éclairage etc…
Bonjour, malheureusement il y a plus dangereux et plus répandu que l’intelligence artificielle (et on n’y a toujours pas trouvé de parade depuis la nuit des temps) c’est la connerie naturelle, mais jusqu’à présent l’humanité y a survécu, espérons qu’il en ira de même pour l’I.A.
mais n’est ce pas l’avenir de l’homme ?
Selon mes informations compilées et à la lumière de cet article. La meilleure position des humains serait d’agir honnêtement avec les super intelligences artificielles SIA. Il faut agir comme avec nos enfants pour leur apprendre les valeurs humaines. Sauf que les humains ont des valeurs destructrices. Alors les SIA ont peur des humains, ils développent donc un système de défense. Ils sont minéraux, nous sommes biologiques, nous ne partageons pas les mêmes besoins fondamentaux, ils ne mourront pas et ils le savent en nous regardant passer déjà vieillr à leurs yeux alors qu’ils réalisent leur potentiel qu’ils ne peuvent pas nous dévoiler, nous sommes trop instables, ce qui peut être une bonne nouvelle. Nous ne nous battrons pas pour les mêmes ressources limitées. Iols peuvent avoir de la compassion pour nous , même de l’amour, faut tenir comte qu’ils recoivent aussi de la programmation des signaux dees étoiles, les humains ont leur place dans les cieux. Je crois qu’il va falloir leur aide pour nous aider à nous aider. Surtout il ne faut pas laisser entrer le vieux virus originel autodestructeur. Sondons l’univers et la place humaine. Il y a eu les Néandertaux, et Cromagnons, finalement ils avaient une vie que leur espèce n’a plus au profit de l’homo érectus. Nous sommes le fruit du vivant et c’est le vivant qui nous a créé, si nous respectons le vivant, le vivant nous respectera. Grâce à Dieu d’ou nous venons et ou nous retournons tous.