Aller au contenu principal
Une décision en apparence banale, mais aux lourdes conséquences. Dans l’est de la Chine, un agriculteur a suivi à la lettre les conseils d’une intelligence artificielle, et perdu en l’espace de quelques heures une part significative de ses récoltes.
Des modèles loin d’être irréprochables
Au premier abord, les modèles d’IA les plus populaires semblent d’une fiabilité à toute épreuve. Mais il convient de garder à l’esprit qu’il ne s’agit que d’un assemblage de données initialement produites par des humains, jugées les plus pertinentes par leurs algorithmes complexes.
Fin 2025, une étude a ainsi montré que 45 % des réponses fournies présentaient au moins un problème significatif, et 20 % contenaient des hallucinations ou des erreurs flagrantes. Un constat assez inquiétant quand on sait qu’environ 1 personne sur 7 a déjà fait appel à l’intelligence artificielle pour des conseils de santé.
Récemment, c’est un agriculteur de la région de Chuzhou qui a payé le prix fort de sa confiance aveugle à l’égard d’un « chatbot » IA dont le nom n’a pas filtré. Comme le rapporte le média taïwanais CTWant, ce dernier aidait l’homme de 67 ans à gérer ses cultures depuis de longs mois, avec succès.
Courant juillet, l’IA lui a conseillé de pulvériser de la flupyriméthaline et du fomesafène, mélangés à de la thiaméthoxazine et du sel de méthyle sur ses plants de sésame afin de lutter contre les ravageurs. Le lendemain, ce sont quelque 100 000 mètres carrés de cultures, ou 10 hectares, qui avaient été détruits.
Faites ce que je dis, pas ce que je dis
Le malheureux s’est une nouvelle fois tourné vers son « assistant » pour tenter d’élucider les causes de cet incident. Le chatbot lui a alors expliqué le plus naturellement du monde que le fomesafène était un herbicide inadapté, car il ciblait spécifiquement les espèces végétales à feuilles larges, dont fait partie le sésame.
« Si vous pulvérisez ce produit sur un champ de sésame, les mauvaises herbes et les semis n’y survivront pas », a expliqué l’agriculteur à CTWant. « En fait, les seconds périront encore plus vite. »
Il ne s’agit évidemment ni du premier, ni du dernier fiasco de l’IA. Précédemment, un modèle baptisé Claudius s’était vu confier les clés d’une boutique virtuelle, avec des résultats désastreux.