Une IA génératrice d'images a inventé son propre langage selon un chercheur

Une IA génératrice d’images a réussi à inventer son propre langage ? C’est en tout cas ce qu’un chercheur affirme. Explications.

Doctorant en informatique à l’université du Texas, à Austin, Giannis Daras affirme que le système d’IA texte-image d’OpenAI du nom de DALLE-2 a réussi à créer son propre langage écrit. L’étudiant a partagé sur Twitter avoir par exemple demandé à l’algorithme de générer une image de « paysans parlant de légumes ». Mais, ce qui est très étrange c’est que l’image des agriculteurs contenait le texte absurde « Apoploe vesrreaitars », comme vous pouvez le constater ci-dessous.

We feed the text "Vicootes" from the previous image to DALLE-2. Surprisingly, we get (dishes with) vegetables! We then feed the words: "Apoploe vesrreaitars" and we get birds. It seems that the farmers are talking about birds, messing with their vegetables! (3/n) pic.twitter.com/OiU7NPTbor
— Giannis Daras (@giannis_daras) May 31, 2022

Encore plus étrange : en ajoutant le terme « vicoter », l’algorithme a proposé plusieurs images de légumes et, en ajoutant « cela », on obtient plein d’images d’oiseaux. « On dirait que les agriculteurs parlent d’oiseaux qui gâchent leurs légumes », a expliqué Giannis Daras. Ce dernier estime donc que cette IA génératrice d’images semble bel et bien avoir généré un vocabulaire caché. « DALLE-2 a un langage secret. La découverte du langage DALLE-2 crée de nombreux défis intéressants en matière de sécurité et d’interprétation », a-t-il conclu.

Des conclusions qui méritent toutefois d’être vérifiées et affirmées et qui, pour certains, comme l’analyste de recherche Benjamin Hilton l’a témoigné, ne sont qu’un « hasard. Ou juste peut-être que Apoploe vesrreaitars ressemble à un nom binomial pour certains oiseaux ou insectes. » L’avenir nous dira donc si tout cela est véridique ou non. Qu’en pensez-vous ?

Par Cécile Breton, le 21 juin 2022