Facebook supprime des centaines de comptes dont la photo de profil a été générée par une IA

Alors que les élections américaines de 2020 se rapprochent, les groupes de propagande multiplient les initiatives pour mettre en avant certains candidats. L’une d’entre elles vient d’être démantelée sur Facebook. Des utilisateurs avaient créé de faux comptes et mis des photos de profil générées par une intelligence artificielle.

PLUS DE 900 PAGES ET COMPTES SUPPRIMÉS

Le 20 décembre dernier, Facebook a frappé un grand coup en retirant plus de 900 comptes, pages et groupes inscrits sur le réseau ainsi que sur Instagram. Tous les comptes en question avaient un point commun : l’utilisation de faux visages générés par une intelligence artificielle pour les photos de profil.

Lire aussi Ces incroyables robots alimentés par une IA promettent un avenir sans corvées

De plus, les comptes avaient comme objectif de promouvoir Donald Trump à moins d’un an de la prochaine élection présidentielle aux États-Unis. Via ces faux comptes, des organisations ont ainsi partagé des contenus douteux sur le réseau social mais également sur YouTube et sur Twitter. D’après les premiers éléments de l’enquête, c’est la première fois que cette génération de faux profils est utilisée à si grande échelle sur un réseau social.

DE FAUX COMPTES VISANT À PROMOUVOIR LE PRÉSIDENT TRUMP

Afin de déceler ce réseau frauduleux, les chercheurs des groupes de désinformation Graphika et DFRLab ont concentré leurs efforts sur des comptes associés à « The BL ». Ce média numérique est en effet relié à The Epoch Times, une organisation médiatique conservatrice.

Cette dernière est d’ailleurs en étroite relation avec Falun Gong, groupe spirituel chinois et soutien de longue date de Donald Trump. Les noms de certains comptes prônaient d’ailleurs le maintien du président américain : « L’Amérique a besoin du président Trump », « Trump pour président de l’Amérique » et « NOUS RESISTONS AVEC TRUMP & PENCE » ne sont que quelques exemples parmi d’autres.

Lire aussi Un homme condamné à 18 ans de prison pour avoir généré des images pédopornographiques avec l’IA

Ces faux comptes étaient alimentés par des utilisateurs aux États-Unis mais également au Vietnam. On retrouve notamment sur ces pages des articles postés sur The BL. D’après Facebook, la multiplication des faux comptes aurait permis aux utilisateurs impliqués d’échapper à la détection tout en générant une amplification artificielle. Toutefois, pour paraître plus « authentiques », certains des faux comptes créés ressemblaient à ceux de n’importe quel utilisateur Facebook. Pour duper le réseau, une générateur de photos de profil géré par une intelligence artificielle.

UNE TECHNOLOGIE QUI A DES FAILLES

Le fait que des intelligences artificielles soient capables de créer de faux visages est inquiétant mais ces systèmes ont encore des progrès à faire. De petits détails vus sur les nombreuses photos générées ont permis aux chercheurs de mieux comprendre ces IA et de détecter leur création plus facilement. En effet, comme toutes les IA, elles apprennent en assimilant une grande quantité d’informations. Dans ce cas précis, ce sont des têtes humaines. Mais l’IA ne fait qu’imiter ce qu’elle « voit » et ne comprend pas comment fonctionne l’anatomie humaine.

De plus, le programme a beaucoup de mal à gérer les arrière-plans et d’autres éléments symétriques que l’on peut voir sur les photos : paire de lunettes, boucles d’oreilles… Il est donc possible de voir à l’oeil nu certaines fausses photos de profil. Néanmoins, pour vérifier certaines d’entre elles, les auteurs du rapport ont fait appel à des experts de l’université Federico II de Naples. Ces derniers ont pu estimer avec « une certitude de 99,9 % » que les images en question avaient été générées par une IA.

Lire aussi Cette IA utilisée par des hôpitaux invente des médicaments inexistants et fait preuve de racisme