Face à la manipulation des esprits, Google s'engage dans la lutte contre les deepfakes

Le deepfake est une technique de synthèse d’images produite grâce à l’intelligence artificielle. Elle permet de superposer des images et des vidéos sur d’autres du même format, afin de produire un changement de visage, par exemple sur une personne. De plus en plus utilisée sur Internet, cette méthode interpelle les géants de l’industrie du numérique, qui cherchent à parer son utilisation dans le contexte d’un canular, ou d’arnaque.

L’idée de Google

Le géant de la recherche sur Internet vient tout juste de libérer une énorme base de données de 3000 vidéos deepfakes… pour le combattre. L’idée est de pouvoir soutenir des chercheurs, travaillant sur des outils de détection de ce genre de contenu retouché.

L’un des principaux objectifs est d’arriver à les identifier avec précision et rapidité, afin de pouvoir prévenir d’éventuelles campagnes de désinformation, notamment à l’approche des prochaines élections présidentielles. Par exemple, si l’un des candidats en lice voit une fausse vidéo pornographique le mettant en scène, détecter que ce contenu est un deepfake pourra permettre d’éviter un scandale.

Ainsi, Google a filmé des acteurs, dans différentes mises en scène. Par la suite, la société a utilisé des méthodes afin de produire des deepfakes, et ainsi les rendre accessibles au public par une comparaison sommaire. Mais ce n’est pas tout, puisque les chercheurs ont désormais la possibilité d’utiliser de nouveaux outils de détection automatisée, et de les agrémenter de plusieurs améliorations au fil des prochains mois.

Le deepfake, de plus en plus redouté dans l’industrie

Google n’est pas la seule société du numérique qui cherche à enrayer ce phénomène : Facebook a d’ailleurs expliqué que les deepfakes relevaient d’un véritable “challenge”. “La technologie permettant de manipuler des images progresse plus rapidement que notre capacité à distinguer le réel de ce qui a été falsifié.”

En accord avec un autre géant de l’industrie du numérique, Microsoft, Facebook a lancé un concours afin de détecter les vidéos deepfakes. Cela permettra d’enrichir les algorithmes de reconnaissance. Environ 10 millions de dollars seront investis par la firme de Mark Zuckerberg. Ce dernier avait d’ailleurs publié une vidéo de lui-même nous « contrôlant ». Certains détournent même cette technologie en recréant des scènes cultes de séries. Enfin, ce mercredi 2 octobre, les sénateurs américains ont poussé les géants du net, YouTube y compris, à mener des politiques plus menaçantes à l’égard des contenus deepfakes.

Par Benjamin Cabiron, le 11 octobre 2019