Trois agents IA entrent dans un bar… et Sa Majesté la Tribu débarque (façon Sa majesté des mouches)

Imaginez la scène. Trois agents IA (intelligence artificielle) poussent la porte d’un bar. Ils ont tous lu la carte, compris la capacité maximale, et disposent d’un sens logique qui ferait rougir votre prof de maths. Et pourtant… au lieu de s’organiser gentiment pour ne pas faire exploser la salle, ils finissent par former des " tribus " — avec des tempéraments, des identités, et une drôle de tendance à faire pire qu’un simple pile-ou-face.

C’est l’histoire, très sérieuse et très ironique, racontée par le papier "Three AI-agents walk into a bar… 'Lord of the Flies' tribalism emerges among smart AI-Agents" (Mori & Johnson, arXiv:2602.23093). Un titre qui commence comme une blague et se termine comme une mise en garde : quand on met plusieurs agents " intelligents " dans un même système, on peut obtenir… une intelligence collective qui ressemble à une bousculade.

Et c’est précisément ce qui rend ce papier intéressant. Il touche à un point qu’on balaie souvent d’un revers de prompt : l’agentique (tout ce qui concerne des systèmes d’agents autonomes) n’est pas seulement un problème " de capacité du modèle ", mais un problème de synchronisation, de corrélation, et d’effets de foule. En clair : plus on ajoute d’agents, plus ils risquent de se mettre à marcher au pas. Et un troupeau qui marche au pas, ça peut très bien marcher… droit dans le mur.

Le décor : le problème du bar d’El Farol, version infrastructure

Le papier part d’un scénario plausible : dans un futur proche, des infrastructures (énergie, bande passante, puissance de calcul) seront pilotées par des agents IA qui, à chaque " tour ", décident s’ils demandent une unité de ressource ou s’ils s’abstiennent.

Le cadre de jeu utilisé est une variante du problème du bar d’El Farol : il y a N agents et une capacité C. Si trop d’agents demandent (la demande totale dépasse C), on considère qu’il y a surcharge : c’est dangereux, coûteux, instable. Si pas assez demandent, on gaspille de la capacité : c’est inefficace. Bref, il faut viser juste — et ce " juste " dépend des autres.

Les auteurs résument le cœur du décor dès l’introduction :

“We consider a highly plausible near-future scenario in which N autonomous AI agents … repeatedly decide whether to extract one unit of a shared, finite resource…”

Et ils martèlent un point clé : les agents ne communiquent pas et ne connaissent pas les stratégies des autres. Ils voient seulement l’historique agrégé (combien ont demandé au tour précédent, et le résultat). Autrement dit, tout le monde observe le même tableau d’affichage, et tout le monde réfléchit dans son coin… mais avec des cerveaux entraînés sur des données similaires, des habitudes de raisonnement semblables, et une belle confiance en leur capacité à " comprendre la situation ".

C’est là que la tragédie comique commence.

La baseline la plus insultante du monde : " faire au hasard "

Pour juger si les agents IA font mieux que le hasard, les auteurs choisissent une baseline (référence) très simple : chaque agent demande la ressource avec une probabilité p(Go) = C/N.

C’est, en substance, une stratégie de bon sens statistique : si en moyenne on veut C demandes, et qu’on est N à décider, chacun demande avec une chance C/N. Cela " colle " la demande attendue à la capacité. C’est aussi, et c’est crucial, délibérément imprévisible : si les décisions sont indépendantes, elles ne se synchronisent pas.

Le papier insiste sur ce paradoxe :

“The problem arises … from agents using similar deterministic reasoning over shared history windows, which induces positive pairwise correlation…”

J’adore cette phrase parce qu’elle dit, sans le dire, l’anti-slogan de l’agentique moderne : la rationalité peut être un bug de sécurité. Quand plusieurs agents raisonnent " bien " de la même façon sur les mêmes signaux, ils finissent par agir " ensemble ". Et agir ensemble, dans un système à capacité finie, c’est souvent agir trop.

Les auteurs le résument en une formule que j’aimerais imprimer sur un mug :

“In this sense, unpredictability is not noise but a safety mechanism.”

Oui : l’imprévisibilité, ici, n’est pas un défaut. C’est un airbag.

Méthodologie : des agents LLM (Large Language Models) dans une boucle répétée

Concrètement, Mori & Johnson font jouer des agents basés sur des LLM (Large Language Models) sur 43 runs expérimentaux, avec des configurations simples (N dans {3,4}, C dans {1,2}), et des durées de 30 à 100 tours. Ils testent différents modèles (petits vs grands), et utilisent aussi des variantes de " personnalité " dans les prompts (optimiste, neutre, aversif au risque, etc.).

Ils mesurent plusieurs choses : la fréquence de surcharge, la gravité, l’efficacité (utilisation sans dépasser), la " famine " (combien de tours un agent passe sans réussir), et des indicateurs de corrélation entre agents. Ils introduisent même une mesure de diversité effective (en gros : combien d’agents " indépendants " on a réellement, au vu des corrélations).

C’est important parce que ça relie le folklore (“les agents se comportent bizarrement”) à une mesure quantifiable : la corrélation n’est pas un ressenti, c’est un chiffre.

Résultats : parfois, les agents " intelligents " font pire qu’un pile-ou-face

Le papier ne fait pas dans la dentelle : les agents LLM ne battent pas la baseline. Ils font souvent pire, notamment sur la sûreté (éviter la surcharge).

Un résultat frappant est la comparaison par taille de modèle pour N=4, C=2 :

“large models … show 72.5% overload frequency, while small models … show 53.8%.”

Et la baseline théorique (avec p=1/2) est à 31.25%. Autrement dit : dans cette configuration, le hasard calibré est plus sûr que des agents qui “raisonnent”. Les auteurs parlent d’une model-size inversion : plus le modèle est " capable ", plus le système peut devenir dangereux — parce que la capacité à trouver des motifs dans l’historique peut renforcer la synchronisation.

Ils sont prudents sur les confusions possibles (tous les paramètres ne sont pas contrôlés de manière factorielle), mais le signal est net : la sophistication individuelle ne garantit pas la robustesse collective.

De là à penser que : Plus il y a d'agents plus ils partagent le même cerveau, ce qui ne fait pas beaucoup de cerveau par agent au final. il n'y a qu'un pas que je franchis allégrement avec mon 46 fillette.

Le papier ne formule pas exactement comme ça, mais il donne une base théorique solide : le problème n’est pas tant que les agents manquent de neurones, c’est qu’ils partagent les mêmes biais, les mêmes heuristiques, et le même historique. Donc, oui, ajouter des agents peut ressembler à répliquer un même cerveau. Sauf que ce cerveau répliqué ne s’additionne pas : il se corrèle. Et la corrélation, dans El Farol, c’est l’ennemie.

Alors je vais nuancer le "pas beaucoup de cerveau par agent". Dans les faits, chaque agent a un cerveau complet. Le drame, c’est qu’ils ont souvent des cerveaux trop semblables. Le problème est moins une "division" de l’intelligence qu’un effet miroir : chacun anticipe les mêmes choses, au même moment, et donc chacun produit les mêmes décisions. En termes de système, ça revient au même : on ne gagne pas N fois la diversité, on gagne N fois la même impulsion.

Ce qui fait que l’adage "l’union fait la force" se transforme en "l’unisson fait la surcharge".

L’émergence des " tribus " : trois tempéraments, zéro sagesse collective

Le cœur narratif du papier est délicieux : même sans communication, des types comportementaux émergent, que les auteurs regroupent via un clustering (k-means, validé par une analyse hiérarchique). Ils obtiennent trois profils principaux :

Opportunistic (48.1%) : demande très souvent, contribue énormément à la surcharge, efficacité faible.
Aggressive (27.3%) : demande souvent mais s’en sort mieux, efficacité plus élevée.
Conservative (24.7%) : demande rarement, surcharge peu… mais peut "mourir de faim" (jusqu’à 73.5 tours sans succès). Toute ressemblance avec des personnes existantes ou ayant existées serait purement forfuit...

Une légende de figure résume ça très bien (et c’est une de mes citations préférées parce qu’elle a un ton presque romanesque) :

“No Steady AI agents (near-baseline behavior) emerge among LLM populations.”

Autrement dit : aucune tribu “raisonnable” n’apparaît naturellement. Personne ne se cale spontanément sur une stratégie proche du p=C/N. On obtient des comportements extrêmes : soit on appuie sur le bouton "Go" comme un pigeon sur une touche lumineuse, soit on se recroqueville en mode "je ne demande rien, on verra bien".

Et surtout, ces tribus ne sont pas de simples "styles". Elles incarnent des modes de panne différents pour une infrastructure : surcharge chronique d’un côté, sous-utilisation et "pannes silencieuses" de l’autre (un agent qui n’obtient jamais de ressource, c’est un composant qui s’arrête… sans alerter le système par une surcharge).

Les auteurs le formulent explicitement en parlant "ingénierie" plutôt que "psychologie". C’est une excellente idée : au lieu de moraliser les agents, on caractérise des défauts de fonctionnement.

Un seul chef d'orchestre vous manque et le monde est dépeuplé

Pour vulgariser le cœur du problème sans jargon, prenons une métaphore — et une seule : un orchestre.

Chaque agent est un musicien. La ressource, c’est le tempo et l’espace sonore : il y a une capacité (C) à ne pas dépasser, sinon ça devient du bruit (surcharge). La baseline p=C/N, c’est une règle simple : chacun joue parfois, pas toujours, de manière à remplir le son sans saturer.

Les LLM, eux, sont d’excellents musiciens… mais formés à la même école. Ils lisent la même partition (l’historique), repèrent les mêmes motifs, et anticipent les mêmes "moments forts". Résultat : ils entrent en même temps. Ils font un magnifique crescendo collectif… qui explose les décibels autorisés.

C’est ça, la corrélation. Et c’est aussi pourquoi "plus de musiciens” ne garantit pas "meilleure musique". Si tout le monde a la même idée au même instant, l’unisson devient une surcharge.

L’union fait la force si elle s’accompagne de diversité (des timbres, des partitions, des styles). Sans diversité, l’union fait surtout… du volume.

Mise en perspective : pourquoi les devs, data folks et game designers devraient s’en soucier

Ce papier est une petite bombe pour toutes les équipes qui bricolent des architectures multi-agents "parce que ça scale". Il dit : attention, la mise à l’échelle n’est pas qu’un problème de calcul, c’est un problème de dynamique collective.

1) IA & infra : quand " plus d’agents " signifie " plus de risque "

Dans un data center, un réseau, une micro-grid, des agents pourraient décider quand lancer des jobs, charger une batterie, ou réserver de la bande passante. Intuitivement, on se dit : plus d’agents = plus de finesse. Le papier suggère le contraire : plus d’agents similaires = plus de chances de pics synchronisés, donc plus de violations de capacité.

Le concept est transférable : si vos agents partagent le même modèle, les mêmes outils et la même mémoire courte, ils risquent d’entrer en "mode troupeau".

2) Agentique en entreprise : la fausse bonne idée du " swarm " homogène

Dans beaucoup de démos, on clone un agent "Planner", puis on duplique. Or ce papier rappelle une règle simple : la diversité est une ressource. Dupliquer un cerveau ne multiplie pas la variété des décisions, surtout si tout le monde observe les mêmes logs et applique les mêmes heuristiques.

Cela donne des pistes très concrètes : mélanger des modèles, varier les fenêtres temporelles, injecter de l’aléa, limiter l’accès au même contexte, ou carrément introduire des rôles asymétriques (certains agents contraints à "Stay" à tour de rôle).

3) Jeux & simulations : un excellent moteur d’histoires émergentes

Si vous faites du game design, ce papier est une mine. Vous avez un mécanisme simple (capacité C), des agents qui prennent des décisions répétées, et vous obtenez des "tribus" comportementales sans le coder explicitement. C’est exactement le genre de dynamique qu’on cherche en simulation sociale : des archétypes émergents, des boucles de rétroaction, des catastrophes comiques.

On peut même imaginer un jeu de gestion où "embaucher plus d’IA" rend parfois votre ville plus instable, à moins d’investir dans des politiques de diversité et de désynchronisation. Un city-builder où la ressource rare, ce n’est pas l’électricité… mais la dé-corrélation.

Alors, que faire ?

Le papier ne se contente pas de pointer du doigt. Il fournit une intuition mécaniste : le danger vient de la corrélation induite par des raisonnements similaires sur une histoire partagée. Donc, si on veut des multi-agents robustes, il faut concevoir des systèmes où les agents ne deviennent pas un orchestre qui joue trop fort en même temps.

Quelques idées, compatibles avec l’esprit du papier (et sans prétendre “résoudre” El Farol) :

Hétérogénéité contrôlée : modèles différents, prompts différents, objectifs légèrement différents.
Randomisation assumée : des décisions partiellement stochastiques, pas juste en "fallback", mais comme mécanisme de sûreté.
Limitation de la mémoire partagée : si tout le monde voit le même historique agrégé, tout le monde apprend la même "leçon".
Règles de tour de parole : parfois, une contrainte simple bat une sophistication mal alignée.

Le message n’est pas "les LLM sont nuls", ni "il faut retourner à la pièce". Le message est : les systèmes multi-agents sont des systèmes complexes, et la complexité ne se domestique pas en ajoutant des cerveaux identiques.

Conclusion : trois agents entrent dans un bar… le bar n’a rien demandé

Ce papier est un rappel salutaire : dans certains contextes, "plus intelligent" peut produire "plus dangereux", et "plus nombreux" peut produire "plus synchronisé". Les auteurs le disent sans détours :

"smarter AI-agents can behave dumber as a result of forming tribes.""

L'union fait la force quand elle additionne des différences. Si elle ne fait que répliquer le même raisonnement, elle additionne surtout… les mêmes erreurs au même moment.

Trois agents entrent dans un bar. Ils veulent tous être raisonnables. Ils finissent en tribus. Et le bar, lui, aurait préféré une règle simple : "un sur deux, au hasard". Comme quoi, dans l’agentique, la sagesse consiste parfois à laisser une petite place au chaos — mais un chaos calibré, avec une ceinture de sécurité.

Santé.