Regardez ce deepfake de Mark Zuckerberg en train de dire qu’il vous contrôle

Nous vous expliquions que de nouvelles technologies permettaient de modifier des images ou des vidéos afin de faire dire n’importe quoi à n’importe qui. Ce deepfake de Mark Zuckerberg est justement un parfait exemple de la problématique : sa crédibilité et son réalisme feraient presque peur.

C’est une agence de publicité, Canny, qui a travaillé avec deux artistes britanniques Bill Posters et Daniel Howe, qui a mis en ligne cette vidéo. On peut y apercevoir Mark Zuckerberg qui tient des propos particulièrement effrayants. Il prononce notamment la phrase « Quiconque contrôle les données contrôle l’avenir », avec un ton très étrange, qui ne ressemble pas du tout aux déclarations habituelles du patron du groupe Facebook, qui est généralement très prudent lors de ses apparitions publiques.

https://www.instagram.com/p/BypkGIvFfGZ/

En réalité, Mark Zuckerberg n’a jamais prononcé ces mots. C’est la technologie du deep learning qui a permis de créer cette vidéo : il s’agit finalement d’un tour de passe-passe qui permet de modifier l’image d’une personne, de reconstituer sa voix, et d’obtenir un rendu certes imparfait, mais tout de même crédible.

L’idée des créateurs de la vidéo était de tester les conditions d’utilisation d’Instagram, où a été postée la vidéo. Elle n’a pas été supprimée, mais une copie de la vidéo postée peu de temps après a revanche été retirée de la plateforme. Mais les créateurs de la vidéo ont clairement fait comprendre dès le départ qu’il s’agissait d’une fausse vidéo, via les hashtags utilisés notamment.

Des personnes malintentionnées pourraient se servir de cette technologie, et c’est justement ce qui est dénoncé avec ce test. Toutefois, créer des fakes de ce genre demande du temps et des ressources, il faut rassembler beaucoup d’extraits de la personne. C’est pourquoi le phénomène n’est que peu répandu pour le moment.

Que pensez-vous de ce deepfake ?