Les prédateurs sexuels utilisent l’IA pour générer des images d’abus sexuels sur des enfants

La dangerosité de l’intelligence artificielle continue de se préciser. En effet, les experts constatent que des générateurs d’images d’IA sont utilisés pour créer et partager des images d’abus sexuels d’enfants. Explications.

La diffusion de ces images peut rendre encore plus difficile la tâche des forces de l’ordre pour aider les victimes. « Les images d’enfants, y compris celles de victimes connues, sont réutilisées pour cette raison vraiment diabolique », a déclaré Rebecca Portnoff, directrice de la science des données au groupe à but non lucratif de sécurité des enfants Thorn.

Lire aussi Ne demandez surtout pas à Sora, l’intelligence artificielle d’OpenAI, de créer des vidéos de gym

La spécialiste ajoutant : « Depuis l’automne dernier, ces images générées par l’IA sont de plus en plus nombreuses. L’identification des victimes est déjà comme trouver une aiguille dans une botte de foin, notamment pour les forces de l’ordre qui tentent de trouver un enfant en danger. La facilité d’utilisation de ces outils est un changement significatif, et c’est une réalité. Cela rend tout plus difficile. »

Toujours d’après le même rapport, la majeure partie des prédateurs sexuels utilise des générateurs d’images open source, comme le modèle Stable Diffusion de Stability AI, pour créer ces images. Même si ce modèle intègre une certaine sécurité et du contrôle, ils peuvent être facilement détournés.

Cette terrible nouvelle s’inscrit dans une tendance grandissante d’abus sexuels causés par l’IA. Une IA qui inquiète toujours plus ces derniers mois. Pour rappel, 42 % des PDG pensent que l’IA pourrait détruire l’humanité au cours de cette décennie.

Lire aussi Regardez cette vidéo hilarante d’un robot-taxi qui a perdu le contrôle dans un rond-point