Les IA ne pensent pas comme on le croyait : ce que des chercheurs ont découvert en les rendant totalement amnésiques…

Et si l’intelligence artificielle ne fonctionnait pas du tout comme on l’imaginait ? Une étude récente révèle que les capacités de raisonnement et de mémoire des IA seraient logées dans deux zones distinctes de leur structure interne. Cette découverte bouscule les certitudes et pourrait transformer la façon de concevoir et contrôler ces systèmes.

Une cartographie inédite du « cerveau » de l’IA révèle une séparation inattendue

Pour mieux comprendre le comportement des grands modèles de langage et d’image, une équipe de la start-up Goodfire.ai a entrepris une cartographie approfondie du fonctionnement interne de l’IA. Leur objectif : déterminer si la mémoire et l’intelligence sont connectées ou bien radicalement séparées.

Lire aussi 39 000 ans : l’ARN le plus ancien jamais séquencé révèle les secrets du mammouth laineux Yuka

Grâce à une méthode mathématique avancée, K-FAC (Kronecker-Factored Approximate Curvature) — les chercheurs ont identifié deux types de structures distinctes dans les modèles étudiés :

• des voies à faible courbure, utilisées pour mémoriser les données ;
• des zones à forte courbure, mobilisées pour le raisonnement, la flexibilité et le traitement de tâches nouvelles.

Cette différenciation, longtemps théorique, a été confirmée par l’expérimentation. Les IA ne disposent donc pas d’un seul système intégré, mais bien de deux circuits spécialisés.

Une IA rendue amnésique… mais toujours capable de raisonner

Pour tester cette hypothèse, les chercheurs ont volontairement désactivé les zones liées à la mémoire. Résultat : l’IA, devenue amnésique, n’était plus capable de se souvenir de faits, de dates ou d’exemples précis. Pourtant, elle parvenait encore à raisonner.

Lire aussi Le projet chinois qui défie Musk sur son propre terrain… avec un détail de plus : tout se passe en pleine mer

Elle conservait des compétences comme la résolution de problèmes et l’analyse logique. Parfois même, ces capacités se sont montrées plus performantes qu’avant. En revanche, les aptitudes en mathématiques ou en mémorisation de faits isolés se sont effondrées.

Séparer la mémoire du raisonnement permet d’identifier précisément quelles fonctions peuvent être modifiées sans altérer la logique globale du système.

Ce constat montre que le raisonnement peut exister indépendamment des souvenirs. Cette découverte ouvre la voie à des modèles plus modulables, plus économiques à faire fonctionner, et potentiellement plus fiables.

Vers une IA plus contrôlable, plus modulaire… et peut-être plus fiable ?

Grâce à cette compréhension nouvelle, plusieurs perspectives émergent. En distinguant ce que l’IA retient et ce qu’elle sait faire, il devient possible de :

Lire aussi « L’IA remplacera les humains » : un fondateur de l’IA dit adieu au travail… et interroge l’avenir du capitalisme

• cibler les dérives liées à la mémoire ou au raisonnement ;
• alléger la taille des modèles sans réduire leurs performances logiques ;
• supprimer des connaissances sensibles sans compromettre l’intelligence globale.

Cette approche pourrait faciliter la création d’IA plus transparentes, mieux contrôlées, et moins sujettes aux biais ou comportements imprévisibles.

Une frontière entre savoir et intelligence, aussi vraie pour les machines que pour nous ?

Si cette dissociation entre mémoire et raisonnement se confirme dans d’autres études, elle pose une question majeure : l’intelligence artificielle ne pense pas comme l’humain. Elle ne s’appuie pas sur des souvenirs, mais sur des structures logiques autonomes.

Cette réalité remet en cause l’idée selon laquelle l’IA tente d’imiter notre intelligence. Elle pourrait en réalité suivre une trajectoire propre. Et c’est peut-être là l’enjeu : comprendre une forme d’intelligence étrangère à la nôtre, mais tout aussi puissante.

Lire aussi Des traces chimiques de la vie au-delà de la Voie lactée : la découverte exceptionnelle dévoilée par James-Webb