Aller au contenu principal
Demandez à un LLM seul de vous pondre un rapport, il vous recrachera peut-être une stat sortie de nulle part. Faites-le discuter avec trois ou quatre autres modèles, et ce taux d’hallucinations dégringole.
C’est contre-intuitif : on a longtemps fantasmé un cerveau IA omniscient, unique, imbattable. Et si la vraie puissance était au contraire dans le collectif ?
On est en train de voir émerger une approche qui bouleverse cette idée reçue : l’architecture Mixture‑of‑Agents (MoA). Des couches de modèles qui bossent ensemble, se corrigent, s’enrichissent.
Cet article décortique le principe, ses performances par rapport à GPT‑4 Omni, l’adoption galopante en entreprise et, surtout, les précautions qui rappellent pourquoi l’humain reste le chef d’orchestre.
1. Qu’est-ce que l’architecture Mixture‑of‑Agents (MoA) ?
Une architecture en couches inspirée du débat
Le point de départ, c’est un papier fondateur publié sur arXiv en juin 2024. L’idée ? Superposer plusieurs couches d’agents LLM. Chaque agent de la couche n reçoit en entrée les réponses produites par les agents de la couche précédente, comme un contexte auxiliaire. Rien de sorcier en apparence, mais le résultat change tout.
L’information s’affine de couche en couche, un peu comme si une équipe de spécialistes relisait tour à tour les propositions des autres.
L’architecture sépare clairement deux rôles, précise l’article Together Mixture-Of-Agents (MoA) : d’un côté les Proposers, qui génèrent des réponses initiales très variées, et de l’autre les Aggregators, dont le boulot est de synthétiser toutes ces propositions pour accoucher d’une réponse unique de meilleure qualité.
Ce manège tourne sur plusieurs couches, chaque itération rapprochant la sortie finale de ce qu’une seule IA n’aurait jamais trouvé seule.
L’implémentation open‑source Together MoA
L’équipe de Together a mis en pratique l’idée avec six modèles open‑source employés comme Proposers : WizardLM‑2‑8x22B, Qwen1.5‑110B‑Chat, Qwen1.5‑72B‑Chat, Llama‑3‑70B‑Chat, Mixtral‑8x22B et DBRX. L’Aggregator final, le chef de la synthèse, est Qwen1.5‑110B‑Chat, le tout sur trois couches.
Cette démonstration open‑source, détaillée dans le même billet Together MoA, a fait du bruit parce qu’elle prouve que l’on peut dépasser des modèles propriétaires sans aligner de budgets monstres.
2. Pourquoi la collaboration entre LLM fonctionne‑t‑elle mieux ?
La « collaborativité » des modèles de langage
Le ressort fondamental, c’est ce que l’article de Together appelle la collaborativité des LLM. Autrement dit, un modèle de langage produit de meilleures réponses quand on lui soumet les sorties d’autres modèles, même si ces modèles sont individuellement moins bons. Intriguant, non ?
L’Aggregator ne se contente pas de piocher la meilleure proposition parmi les Proposers, comme le souligne une analyse Zilliz, il en tisse une synthèse qui surpasse chacune des réponses initiales.
Une réduction concrète des hallucinations
Les chiffres ne mentent pas. Dans une étude menée sur des transcriptions de centres d’appels et publiée dans MDPI Information en 2025, un framework multi‑agents a réussi à abaisser le taux d’hallucinations de LLaMA‑3‑8B. La réduction des hallucinations représente un taux de 85.5%. Dit comme ça, impossible d’ignorer qu’un simple débat entre modèles peut transformer un outil potentiellement fantasque en assistant nettement plus fiable.
3. MoA en pratique : performances et compromis
Des scores qui dépassent GPT‑4 Omni
La preuve par les benchmarks. L’implémentation Together MoA décroche un score de 65,1 % sur AlpacaEval 2.0, contre 57,5 % pour GPT‑4 Omni. Sept points d’écart, ce n’est pas une marge d’erreur, c’est une avance franche.
MoA‑Lite : moitié moins de coûts, performances en hausse
C’est l’autre bonne surprise. Une version allégée à deux couches, MoA‑Lite, parvient à surpasser GPT‑4 Turbo d’environ 4 % sur AlpacaEval 2.0, tout en réduisant les coûts de plus de moitié, comme le rapporte Zilliz. Autrement dit, on n’a même pas besoin d’une usine à gaz pour en tirer profit. Un compromis séduisant pour les équipes qui veulent briller sans fondre leur budget cloud.
4. Les systèmes multi‑agents à l’échelle de l’entreprise
Les chiffres annoncent une lame de fond. Selon IT Brief Australia, Gartner prévoit que 40 % des applications d’entreprise embarqueront des agents IA d’ici fin 2026, contre moins de 5 % en 2025.
McKinsey, de son côté, mesure des gains de productivité de 20 à 30 % grâce à l’IA agentique, et jusqu’à 30 % dans le développement logiciel, comme l’explique LeMagIT. L’entreprise a déployé 25 000 agents pour ses 60 000 collaborateurs, avec un mot d’ordre : le couplage agent‑humain.
Même son de cloche chez Capgemini : une étude Capgemini Research Institute menée auprès de 1 100 dirigeants montre que l’adoption de l’IA générative est passée de 6 % en 2023 à 30 % en 2025, et près de 45 % des entreprises qui déploient des agents à grande échelle testent ou construisent des systèmes multi‑agents.
Et si on sonde les professionnels directement concernés, 83 % déclarent que l’IA renforce les capacités humaines plutôt que de les remplacer, selon une étude Workday.
Dans ce paysage, des plateformes comme Genspark incarnent ce virage vers le travail augmenté. Son Super Agent orchestre plus de 30 modèles – GPT, Claude, Gemini et des alternatives open‑source – en mobilisant 15 agents spécialisés (slides, sheets, docs, code, design…) pour livrer des documents finis à partir d’un simple prompt. Selon un fil Reddit très détaillé, comprendre quel agent utiliser pour quelle tâche rend l’outil bien plus rentable.
L’ambition ? Réduire le « glue work », ce travail de copier-coller peu valorisant qui grignote le temps des équipes. Les retours utilisateurs le confirment : on gagne en productivité sur les livrables, à condition de soigner ses prompts et de garder une revue humaine systématique.
Les signaux de marché sont spectaculaires. AIbase rapporte que Genspark a atteint 36 millions de dollars d’ARR en 45 jours après son lancement, avec une équipe de seulement 20 personnes et zéro publicité payante. Cinq mois plus tard, le cap des 50 millions était franchi, puis 250 millions en 12 mois, selon un article de l’E2B blog.
L’appétit est réel. Pour autant, l’euphorie n’est pas un blanc-seing. Un rappel utile : même avec un orchestre d’agents, l’humain doit garder un œil sur les coûts et la qualité de l’expérience.
5. Pourquoi l’humain reste indispensable
Les agents IA les plus avancés brillent, mais ils plafonnent vite quand on retire la supervision humaine. Une expérience de Carnegie Mellon baptisée TheAgentCompany a mis Claude 3.5 Sonnet à l’épreuve sur des tâches professionnelles complexes : seulement 24 % ont été réalisées sans aide humaine.
De quoi méditer sur une entreprise fictive entièrement composée d’agents IA. Le scénario a d’ailleurs été poussé à l’extrême avec une startup gérée à 100 % par des agents IA. Résultat après 72 heures : effondrement total. Sans cadre humain pour recentrer les priorités, les agents sont partis dans des boucles de sur‑analyse improductive, nous apprend l’article sur une entreprise dirigée à 100 % par des IA qui s’effondre.
Ces échecs éclairent d’un jour cru la nécessité d’un couplage agent‑humain. Les systèmes multi‑agents, aussi performants soient-ils, ne transforment pas les équipes en simples spectateurs. Ils exigent une montée en compétences, une gouvernance des coûts et une supervision humaine claire.
Même sur Genspark, les utilisateurs qui en tirent le meilleur parti insistent : le Super Agent est un accélérateur, pas un remplaçant.
6. Vers une IA collaborative au service des équipes
L’architecture Mixture‑of‑Agents a démontré une chose essentielle : l’intelligence collective des modèles réduit drastiquement les hallucinations et produit des réponses de meilleure qualité. Une claque au mythe de l’IA unique et toute-puissante.
Pour les entreprises, ce paradigme se traduit par des gains de productivité tangibles, de 20 à 30 % selon la maturité, à la seule condition de maintenir un véritable human‑in‑the‑loop.
Avec 40 % des applications professionnelles qui intégreront des agents d’ici 2026, la question n’est plus de savoir si l’IA va bouleverser le travail, mais comment les équipes vont apprendre à piloter ces collectifs numériques. L’objectif n’est pas de remplacer l’humain. C’est de lui donner une capacité d’amplification inédite.
Par Eric Rafidiarimanana, le
Catégories: Technologie, Robots & IA