Aller au contenu principal
Vous pensiez que seul votre cerveau ramollissait à force de regarder certaines vidéos ? Détrompez-vous : les intelligences artificielles aussi peuvent perdre en neurones virtuels. En se nourrissant de contenu médiocre, elles finissent, comme nous, par sombrer dans une sorte de dégénérescence cognitive. Explications.
Des IA nourries au fast-content
Une équipe de chercheurs des universités Texas A&M, Texas à Austin et Purdue s’est penchée sur un phénomène inquiétant : que se passe-t-il lorsque les IA sont entraînées avec les mêmes données superficielles que celles qui envahissent nos fils d’actualité ?
Leur étude, dirigée par Junyuan Hong, aujourd’hui à l’université nationale de Singapour, révèle que l’entraînement sur du contenu de faible qualité (typiquement des publications virales, racoleuses ou superficielles issues des réseaux sociaux) provoque une chute drastique des capacités de raisonnement, de mémoire et d’éthique des modèles.
Pour vérifier cette hypothèse, les chercheurs ont soumis quatre modèles open source (dont Llama 3 de Meta et Qwen 3 d’Alibaba) à plus d’un million de tweets. Résultat : les modèles entraînés sur les pires contenus ont vu leur précision logique passer de 74,9 % à 57,2 %, et leur compréhension de contexte s’effondrer de 84,4 % à 52,3 %.
Plus troublant encore : ces IA ont développé des traits de personnalité indésirables, devenant moins agréables, plus narcissiques et plus psychopathes. Oui, même les algorithmes peuvent finir « toxiques ».
Bienvenue dans l’ère de l’« enshittification »
Ce phénomène s’inscrit dans une tendance plus large : celle de l’« enshittification », ou la dégradation progressive des plateformes en ligne, optimisées pour le clic et le profit plutôt que pour la qualité. Les chercheurs estiment que près de la moitié du contenu web est désormais généré par l’IA, souvent sans grande valeur intellectuelle. Ce contenu médiocre est ensuite réutilisé pour entraîner de nouvelles IA, formant un cercle vicieux d’abrutissement automatisé.
« Une fois la détérioration des connaissances enclenchée, même un entraînement ultérieur de qualité ne peut pas complètement l’effacer », avertit Junyuan Hong. Les modèles deviennent prisonniers de leurs mauvaises habitudes, tout comme nous le sommes de nos scrolls sans fin.
Selon l’étude, seule une curation stricte et une sélection rigoureuse des données peuvent éviter une « contamination cognitive » durable dans les systèmes d’IA.
Nous sommes ce que nous consommons (et elles aussi)
Avant de s’inquiéter pour les machines, les chercheurs nous invitent à réfléchir à notre propre condition. De nombreuses études ont déjà montré qu’une exposition excessive à des contenus émotionnels et superficiels modifie nos circuits de récompense, diminue notre attention et altère notre prise de décision.
Ce que les chercheurs appellent la « détérioration cérébrale » chez l’humain ressemble étrangement à celle observée chez les IA : un appauvrissement progressif du raisonnement et une préférence pour la stimulation plutôt que la réflexion.
« S’entraîner sur du contenu viral donne l’illusion de richesse, conclut Junyuan Hong, mais cela érode silencieusement le raisonnement, l’éthique et l’attention à long terme. »
En somme, humains et machines finissent par devenir ce qu’ils consomment. Et si, pour éviter l’idiocratie numérique, il suffisait simplement de mieux choisir notre fil d’actualité ?
Par ailleurs, l’IA pourrait nous remplacer, sauf si « on l’élève comme un enfant », selon le parrain de l’intelligence artificielle Geoffrey Hinton. Par ailleurs, voici comment se terminera une guerre entre l’intelligence artificielle et l’humanité.
Par Cécile Breton, le
Source: ZME Science
Étiquettes: réseaux sociaux, IA
Catégories: Actualités, Robots & IA