Des chercheurs sont capables d’implanter de faux souvenirs à des personnes avec des deepfakes

La technologie deepfake est de plus en plus inquiétante. En effet, des chercheurs sont désormais capables d’implanter de faux souvenirs à des personnes. Explications.

Comme l’ont expliqué les scientifiques dans la revue PLOS One, des extraits de remakes de films ont été créés grâce à la technologie deepfake. Ils étaient suffisamment convaincants pour faire croire aux participants qu’ils étaient réels. Cela leur a créé de nouveaux souvenirs.

Lire aussi Ne demandez surtout pas à Sora, l’intelligence artificielle d’OpenAI, de créer des vidéos de gym

L’étude comportait une mise en garde : « Les deepfakes n’étaient pas plus efficaces que de simples descriptions textuelles pour déformer la mémoire. Les deepfakes ne sont pas entièrement nécessaires pour inciter quelqu’un à accepter un faux souvenir. »

« Nous ne devrions pas sauter aux prédictions d’un avenir dystopique sur la base de nos craintes concernant les technologies émergentes », a déclaré Gillian Murphy, auteure principale de l’étude et chercheuse en désinformation à l’University College Cork en Irlande. « Oui, il y a des dommages très réels causés par les contrefaçons profondes, mais nous devons toujours rassembler des preuves de ces dommages en premier lieu, avant de nous précipiter pour résoudre les problèmes dont nous venons de supposer qu’ils pourraient exister. »

Participants viewed clips or descriptions of movie remakes. Some were real studio remakes (e.g. Carrie, Tomb Raider), while others were fictitious deepfakes: Brad Pitt in The Shining, Will Smith in the Matrix, Charlize Theron in Captain Marvel, Chris Pratt in Indiana Jones. pic.twitter.com/AhXnhQpaZY

— Gillian Murphy (@gillysmurf) July 13, 2023

En moyenne, 49 % des participants ont été dupés par les vidéos deepfakes. 41 % ont affirmé que le remake de Captain Marvel était meilleur que la formation originale. « Nos conclusions ne sont pas particulièrement préoccupantes, car elles ne suggèrent aucune menace particulièrement puissante de deepfakes au-delà des formes existantes de désinformation », a précisé Gillian Murphy.

Lire aussi Regardez cette vidéo hilarante d’un robot-taxi qui a perdu le contrôle dans un rond-point

Qu’en pensez-vous ? Pour aller plus loin, sachez que des célébrités se sont déjà retrouvées dans des publicités sans leur accord à cause de deepfakes. Découvrez également une astuce simple pour démasquer un deepfaker.