La fuite de discussions érotiques avec des IA révèle la perversion criminelle des utilisateurs

Lorsqu’il s’agit d’utiliser la technologie à des fins personnelles, la prudence est de rigueur – et c’est d’autant plus vrai lorsque les informations communiquées touchent à l’intimité. Cela a une fois de plus été démontré par une intelligence artificielle utilisée sur des sites pour adulte qui a divulgué en ligne les conversations intimes de ses utilisateurs.

Les intelligences artificielles sont désormais partout sur le Web, que cela soit aux côtés des moteurs de recherche, dans les plateformes de réseaux sociaux, sur les sites de rencontre et même sur les sites Web spécialisés en contenu pornographique. Étant donné la vulgarisation de cette technologie, les utilisateurs en font usage sans vraiment y prêter attention et sans faire preuve de prudence. En effet, lorsque les gens utilisent les agents conversationnels alimentés par l’IA, ils auraient tendance à penser que leur sécurité n’est pas en jeu. Pourtant, l’IA est une technologie qui est encore sujette à de nombreux défauts, et il est important de faire attention lorsqu’on l’utilise.

Lire aussi Les étudiants font exprès d’ajouter des fautes à leurs devoirs pour tromper les détecteurs d’IA

L’un des dangers de l’utilisation de l’IA sur le Web a récemment été dévoilé par la société de sécurité UpGuard. Dans un nouveau rapport, l’entreprise a révélé que les chatbots IA de certains sites pour adulte partageaient des contenus de discussion explicites avec leurs utilisateurs. Bien évidemment, ces discussions sont censées être privées. D’après le rapport, le problème concerne une centaine de services d’IA – dont trois services spécialisés dans les contenus érotiques –, tous basés sur un protocole d’IA open source appelé llama.cpp. En tout, la société de sécurité a pu retracer un millier de conversations d’utilisateurs divulguées.

Ce rapport est très inquiétant étant donné l’ampleur de la fuite dans ce problème de confidentialité. Mais plus inquiétant encore, parmi les conversations divulguées, certaines abordaient des cas d’abus sexuels sur mineurs. D’après les experts, cela implique que l’IA a le potentiel de faciliter l’impunité des comportements sexuels abusifs et illégaux.

Par ailleurs, voici comment se terminera une guerre entre l’intelligence artificielle et l’humanité.

Lire aussi Un robot humanoïde devient complètement fou et attaque les employés