Pour lutter contre le plagiat par l’IA, cet outil “empoisonne” les images originales

Dernièrement, l’intelligence artificielle est devenue de plus en plus performante, réussissant l’exploit d’imiter et de remplacer les humains dans de nombreux domaines, dont le domaine artistique. Pour lutter contre cela, un nouvel outil a été créé pour aider les artistes à « empoisonner » leurs œuvres de manière que l’IA ne puisse pas s’en inspirer.

La génération d’images grâce à l’intelligence artificielle est spectaculairement réaliste, et cela ébranle de nombreux artistes. Heureusement, il existe encore des parades pour ne pas se faire dépasser par cette technologie émergente. Parmi ces parades figure un nouvel outil qui permet aux artistes d’ajouter des modifications invisibles aux pixels de leur art avant de le publier en ligne. Grâce à cela, si l’œuvre est intégrée dans des données de formation pour une IA, le modèle résultant peut se détraquer de manière chaotique et imprévisible.

Lire aussi Regardez cette vidéo hilarante d’un robot-taxi qui a perdu le contrôle dans un rond-point

Autrement dit, l’outil permet d’empoisonner les œuvres d’art et de les rendre inutiles pour la formation d’IA. En utilisant l’outil, les chiens dans les images peuvent par exemple devenir des chats, et les vaches peuvent devenir des voitures. L’outil, appelé Nightshade, est ainsi conçu comme un moyen de lutter contre les sociétés d’IA qui utilisent le travail des artistes (sans leur consentement) pour entraîner leurs modèles. Nightshade fonctionne essentiellement en exploitant une faille de sécurité qui confond le modèle d’IA.

Avec cette technologie d’empoisonnement artistique, les scientifiques derrière cet outil espèrent faire pencher la balance en défaveur des sociétés d’IA qui ont utilisé des données protégées par le droit d’auteur pour entraîner leurs modèles. Pour l’instant, l’outil est encore en phase de test et d’amélioration, mais les artistes se réjouissent déjà de son existence. Par ailleurs, un chercheur estime que l’IA consommera bientôt autant d’électricité qu’un pays comme l’Irlande.