Le nouveau générateur d’images de ChatGPT utilisé pour créer de fausses notes de frais

L’essor fulgurant de l’intelligence artificielle a apporté de nombreux bénéfices dans divers domaines. Mais chaque innovation technologique s’accompagne aussi de dérives. Le nouveau modèle de génération d’images d’OpenAI, connu sous le nom de 4o, impressionne par sa capacité à intégrer un texte lisible et réaliste dans les images qu’il produit, une compétence qui manquait jusqu’à récemment aux générateurs d’images.

On vous en parlait au début du mois. ChatGPT s’est offert un générateur d’images d’un niveau jamais vu. Des utilisateurs ont rapidement démontré que ce modèle peut être utilisé pour créer des documents frauduleux d’une qualité troublante. L’alerte a notamment été donnée par Deedy Das, investisseur chez Menlo Ventures, qui a publié sur les réseaux sociaux une image de reçu entièrement générée par l’intelligence artificielle. Celle-ci imitait à la perfection un ticket de caisse provenant d’un célèbre steakhouse de San Francisco. Le faux document comportait tous les détails habituels, tels que le nom des plats, les sous-totaux précis, les taxes, le calcul des pourboires. 

Lire aussi La Thaïlande déploie dans ses rues un robot policier humanoïde pour assurer la sécurité

Un autre internaute est allé encore plus loin en ajoutant un filtre photo réaliste et quelques taches de nourriture sur le faux reçu. Et ces usages détournés ne s’arrêtent pas là. Le même modèle d’OpenAI s’est révélé capable de produire de fausses ordonnances pour des médicaments soumis à prescription, tels que le Zoloft. 

I think in the original image the letters are too perfect and they don’t bend with the paper. They look like hovering above the paper. Here is my attempt to make it more realistic. Let me know what you think. pic.twitter.com/EixRSHubeY

— Michael Gofman (@michaelgofman) March 29, 2025

Jusqu’à récemment, la génération de texte lisible au sein d’une image représentait un défi technique pour les modèles d’intelligence artificielle. Les itérations précédentes produisaient souvent des lettres mal formées, des mots illisibles ou des phrases absurdes. Avec le modèle 4o, ce n’est plus le cas. Le texte est désormais précis, cohérent et intégré de manière visuellement crédible.

Cela ouvre la porte à une variété alarmante de scénarios, comme des faux chèques, fausses déclarations fiscales, certificats de naissance falsifiés ou encore fausses cartes d’identité. En somme, tous les documents administratifs ou commerciaux peuvent être reproduits de manière convaincante avec une simple commande textuelle. Les mécanismes de sécurité actuellement envisagés, tels que les métadonnées ou les filigranes intégrés aux images générées par IA, se révèlent trop faciles à supprimer ou à contourner. 

Lire aussi ll utilise une intelligence artificielle pour se défendre au tribunal, la juge n’apprécie pas

Et le contexte ne rassure guère. Même avant l’apparition de ces outils puissants, la fraude était déjà répandue. Une étude de 2015 révélait que 85 % des personnes interrogées reconnaissaient avoir menti dans leurs demandes de remboursement pour obtenir davantage d’argent. Ce phénomène échappe souvent aux contrôles internes, en raison d’un manque de supervision ou de processus financiers inadaptés dans de nombreuses entreprises.

Par ailleurs, voici comment se terminera une guerre entre l’intelligence artificielle et l’humanité.