Un utilisateur de chatbot sur dix demande du contenu explicite, selon une étude

Avec l’arrivée de ChatGPT, l’usage des agents conversationnels est devenu de plus en plus courant. Si c’est une pratique qui semble généralement inoffensive, des chercheurs ont découvert qu’au moins un utilisateur de chatbot sur dix est un véritable obsédé.

Dans une nouvelle étude, des chercheurs ont découvert une statistique pas si surprenante : environ une personne sur dix qui interagit avec les chatbots le fait à des fins érotiques. Cette recherche révélatrice est basée sur l’analyse d’un échantillon de 100 000 conversations réelles issues de 25 chatbots. Avec cette analyse, les chercheurs ont constaté que 50 % des interactions les plus importantes avec les agents conversationnels portaient sur des sujets aussi banals que la programmation, les conseils de voyage et les demandes d’aide à la rédaction.

Lire aussi L’armée américaine teste une mitrailleuse alimentée par l’intelligence artificielle

Quoi qu’il en soit, d’autres sujets de conversation plus perturbants apparaissent fréquemment, notamment des conversations suivant des jeux de rôle érotiques, et trois catégories de sujets que les auteurs qualifient de « dangereux ». Il s’agit de « demandes de narration explicite et érotique », de « fantasmes sexuels explicites et scénarios de jeux de rôle » et de « discussions sur des comportements toxiques à travers différentes identités ». Parmi ces trois catégories, la narration sexuelle est celle qui se produit le plus souvent, puisque 5,71 % des conversations échantillonnées se concentrent sur ce type de discussion.

Cette nouvelle étude offre un aperçu unique du monde varié et parfois risqué des interactions homme-robot. Par ailleurs, à cause des paroles du chatbot d’une intelligence artificielle, un homme s’est suicidé.