L’un des pères fondateurs de l’IA s’inquiète des abus et des personnes qui en sont responsables

Récemment, Yoshua Bengio, expert en informatique et l’un des plus grands pionniers mondiaux de l’intelligence artificielle, a mis en garde contre cette technologie de plus en plus puissante qui pourrait nuire au monde. Il a également affirmé que les personnes qui en sont responsables pourraient être tout aussi dangereuses. Explications.

Dans une interview accordée à CNBC, l’expert en informatique Yoshua Bengio a déclaré que les membres d’une « frange technologique d’élite souhaitent que l’IA remplace les humains. L’intelligence donne le pouvoir. Alors qui va contrôler ce pouvoir ? Il y a des gens qui pourraient vouloir abuser de ce pouvoir, et d’autres qui seraient heureux de voir l’humanité remplacée par des machines. Je veux dire, c’est une marge, mais ces gens peuvent avoir beaucoup de pouvoir, et ils peuvent le faire à moins que nous ne mettions en place les bonnes barrières dès maintenant. »

Lire aussi Lors de tests, le nouveau modèle d’OpenAI a menti et a élaboré une technique pour ne pas être fermé

Étant donné que la construction de systèmes d’IA coûte des milliards de dollars, a précisé l’expert, l’aspect financier ne doit pas être négligé. « Très peu d’organisations et très peu de pays seront en mesure de le faire. Il va y avoir une concentration du pouvoir : le pouvoir économique, qui peut être mauvais pour les marchés ; le pouvoir politique, qui pourrait être mauvais pour la démocratie ; et le pouvoir militaire, qui pourrait être mauvais pour la stabilité géopolitique de notre planète. »

Yoshua Bengio concluant : « Actuellement, les experts ne s’accordent pas sur la question de savoir si l’intelligence artificielle générale, ou l’intelligence artificielle de niveau humain, peut être atteinte et quand cela pourrait se produire. Si cela se produit avant que la politique mondiale ne rattrape son retard, nous aurons des problèmes. Si c’est dans cinq ans, nous ne sommes pas prêts parce que nous n’avons pas de méthodes pour garantir que ces systèmes ne nuiront pas aux gens ou ne se retourneront pas contre eux. »

Par ailleurs, voici comment se terminera une guerre entre l’intelligence artificielle et l’humanité.

Lire aussi Alors qu’elles détestent l’IA, ces personnes ont préféré des oeuvres d’IA lors d’un test à l’aveugle