Abstention vérifiable : l'IA qui refuse de faire creuser votre rue pour rien
Imaginez la scène. Un lundi matin, dans la salle de contrôle d'une régie des eaux, un algorithme clignote : « fuite probable, rue des Lilas, nœud 247 ». L'ingénieur d'astreinte regarde l'écran, soupire, et... ne fait rien. Pas par paresse. Par expérience. La dernière fois qu'on a suivi la machine, on a ouvert une tranchée de quinze mètres devant la boulangerie pour découvrir une canalisation en parfaite santé. Coût de l'opération : plusieurs milliers d'euros, un trottoir massacré, et la confiance de toute l'équipe terrain envolée.
Voilà le paradoxe que des chercheurs viennent d'attaquer frontalement dans un papier déposé sur arXiv : les réseaux d'eau perdent une part considérable de leur production en fuites — la fameuse non-revenue water, cette eau traitée, pompée, payée, qui s'évapore dans le sol et engloutit des milliards de dollars chaque année — et pourtant, les IA censées localiser ces fuites restent au placard. Leur constat tient en une phrase qui mérite d'être encadrée : le problème n'est pas la précision, c'est la responsabilité. Ou, dans leurs mots : « aucune méthode ne prouve quand elle ne devrait pas agir ».
Le vrai scandale : deviner partout, tout le temps
Commençons par le chiffre qui fâche. Sous un bruit de mesure réaliste — celui des vrais capteurs de pression, pas celui des simulations de laboratoire — les localisateurs de fuites par IA plafonnent autour de 30 à 40 % de précision. Sur le banc d'essai principal du papier (un réseau baptisé EXA7, 381 nœuds, 30 capteurs), la version « forcée à répondre » du système atteint péniblement 31,7 % de bonnes réponses.
Mais le plus intéressant n'est pas ce chiffre : c'est ce qu'il révèle du mode de fonctionnement de ces systèmes. Une IA classique de localisation est comme un candidat de QCM qui n'a pas le droit de laisser une case vide : elle doit désigner un endroit, même quand les données ne permettent objectivement pas de trancher. Elle devine. Et pour une régie, une devinette à 32 % ne justifiera jamais de faire venir une pelleteuse : « guessing everywhere cannot justify excavation », résument les auteurs.
Le renversement proposé est rafraichissant : et si, au lieu de rendre l'IA plus intelligente, on lui apprenait à dire « je ne sais pas » (wait! Ce n'est pas ce qu'on essaie de faire dire au LLM depuis quelques années déjà?) — mais avec des preuves à l'appui ?
Une IA en deux têtes : l'enquêteur et le juge
L'architecture du papier repose sur une séparation des pouvoirs digne d'un manuel de droit constitutionnel. Deux agents, aux rôles strictement disjoints.
Le premier, l'agent exécuteur (executor agent), est l'enquêteur de terrain. C'est un moteur déterministe, ancré dans la physique, qui travaille avec un digital twin — un jumeau numérique, c'est-à-dire une réplique logicielle complète du réseau d'eau (ici motorisée par EPANET, le simulateur hydraulique de référence). Face à une anomalie de pression, il ne cherche pas « la » fuite : il dresse la liste de toutes les explications possibles. Une fuite dans l'une des zones du réseau, certes, mais aussi un pic de consommation (le quartier entier qui arrose son jardin), un capteur défaillant, une vanne mal fermée, ou... rien d'anormal du tout.
Puis il fait ce que la science fait de mieux : il essaie de falsifier chaque hypothèse. Il injecte chacune dans le jumeau numérique, simule les pressions attendues, et compare aux mesures réelles. Une hypothèse incompatible avec la physique accumule un résidu énorme et s'effondre d'elle-même. C'est du Popper appliqué à la plomberie : on ne prouve pas qu'une hypothèse est vraie, on élimine celles qui sont fausses.
Petit raffinement savoureux : l'hypothèse « fuite » est naturellement tricheuse, car elle dispose de nombreux paramètres libres (quel nœud ? quel débit ?) et peut donc « sur-expliquer » n'importe quoi, y compris une banale hausse de consommation. Les auteurs la bride avec une pénalité d'Occam — un malus mathématique proportionnel à la complexité de l'hypothèse. Sans ce garde-fou, l'ablation montre que les confusions « demande prise pour une fuite » sont multipliées par neuf. Le rasoir d'Occam, littéralement codé en dur.
Le second agent, le superviseur, est le juge. Et sa caractéristique la plus importante est ce qu'il ne fait pas : il ne localise jamais rien. Il reçoit le dossier d'évidence de l'exécuteur et le confronte à un contrat vérifiable par code (code-verifiable contract) : six prédicats déterministes, six cases à cocher, toutes obligatoires. La probabilité qu'il y ait bien une fuite dépasse-t-elle le seuil ? La zone suspecte est-elle assez petite pour être fouillée ? L'écart avec la deuxième hypothèse est-il suffisant ? Les alternatives (capteur cassé, vanne fermée) ont-elles été correctement enterrées par la falsification ?
Trois verdicts possibles. ACT : on envoie l'équipe, avec un certificat signé cryptographiquement (SHA-256) qui trace chaque chiffre jusqu'à sa source. ABSTAIN : le système s'abstient et remet un dossier à un humain, en expliquant précisément quelle condition a échoué. REQUEST EVIDENCE : le système demande des mesures supplémentaires — il désigne les trois points du réseau où de nouvelles mesures départageraient le mieux les hypothèses en compétition, une forme d'active sensing (détection active).
C'est là toute la nuance entre s'abstenir et s'abstenir de façon vérifiable : un « je ne sais pas » accompagné d'un procès-verbal expliquant pourquoi, auditable ligne par ligne. Pas un haussement d'épaules, une pièce à conviction.
Et le LLM dans tout ça ? Un auditeur, pas un oracle
Le troisième personnage est le plus contre-intuitif pour l'époque : un grand modèle de langage (LLM, ici deepseek-v4-pro, choisi dans une famille de modèles différente du reste du système pour garantir son indépendance) joue le rôle d'auditeur. Attention au contresens : le LLM ne diagnostique rien, ne voit ni les calculs internes ni la narration de l'enquête. Il reçoit uniquement le résumé numérique structuré et vérifie sa cohérence. Il peut ajouter un rejet s'il flaire une incohérence — mais il ne peut jamais renverser un prédicat dur qui a échoué. Le LLM a un droit de veto supplémentaire, pas un droit de grâce.
Testé sur des dossiers délibérément corrompus (affirmations non soutenues, preuves gonflées, exclusions fabriquées), l'auditeur en a repéré 16 sur 16, sans aucun faux positif sur les dossiers authentiques. C'est peut-être la leçon la plus transférable du papier : la place raisonnable d'un LLM dans une infrastructure critique n'est pas au volant, mais au contrôle technique.
Les chiffres : moins souvent, mais juste
Alors, que donne cette machine à dire non ? Trois campagnes d'essai, du plus contrôlé au plus réel.
Sur EXA7, le banc in-silico : le système forcé à répondre plafonnait à 31,7 % ; en mode abstention vérifiable, il n'agit que sur 40,5 % des événements — mais avec 96,1 % de précision décisionnelle sur ces actions. Le test statistique associé (McNemar, sur 600 scénarios) est écrasant : p < 0,001. Sur 50 scénarios de contrôle sans aucune fuite, avec seulement du bruit : zéro fausse alerte en configuration d'audit.
Sur L-Town, un benchmark généré indépendamment (issu de la compétition internationale BattLeDIM), le jumeau numérique est volontairement décalibré jusqu'à 10 % par rapport au modèle qui a généré les données — la torture classique du passage simulation-réalité. Verdict forcé : 15 % de précision, catastrophique. Verdict avec abstention : le système n'agit que sur 4 fuites sur 33... mais les quatre sont correctes. Cent pour cent de précision, douze pour cent de couverture. On peut y voir un aveu de faiblesse ou un acte de maturité ; les régies, elles, savent lequel des deux fait creuser au bon endroit.
Sur City D, enfin, le morceau de bravoure : un registre de 194 ordres de réparation réels de 2025, géolocalisés et audités, provenant d'un exploitant chinois. Sur ce terrain impitoyable, le système ne certifie que 5 ordres d'excavation, dont 3 corrects (60 %). Modeste ? Attendez la suite. Les auteurs ajoutent un second étage de décision fondé non plus sur la pression mais sur le bilan de masse (le débit entrant d'un district qui augmente, signature comptable d'une fuite) : ce « survey tier » récupère 44 % des événements avec une précision de 100 % à l'échelle du district — 85 districts désignés, 85 corrects, zéro fausse alarme sur les contrôles. Quand une modalité de mesure atteint son plafond, l'abstention honnête ouvre la porte à une autre.
Pourquoi ce papier compte
D'abord parce qu'il déplace la ligne de front. Depuis dix ans, la littérature sur la localisation de fuites court après des points de précision ; ce papier affirme que la métrique qui débloque le déploiement est ailleurs : la capacité à prouver son incertitude. C'est le même basculement que la médecine a opéré avec le diagnostic différentiel : un bon médecin n'est pas celui qui a toujours un avis, c'est celui qui sait quand demander un examen complémentaire.
Ensuite, parce que l'architecture est générique. Séparation enquêteur/juge, contrat vérifiable, falsification contre un jumeau numérique, LLM cantonné à l'audit : les auteurs eux-mêmes suggèrent la transposition aux réseaux électriques, aux gazoducs, à la détection de contamination. Chaque fois qu'une IA doit déclencher une action coûteuse et irréversible dans le monde physique, ce schéma est candidat.
Enfin, pour une anecdote enfouie dans le papier et qui vaut de l'or : pendant le développement, un bug d'indexation des hypothèses inversait silencieusement les probabilités sur les scénarios de demande. Il n'a été attrapé que parce que l'architecture exige que chaque nombre soit traçable jusqu'à une sortie d'outil. L'auditabilité n'a pas seulement servi le déploiement — elle a sauvé le système de ses propres développeurs. Voilà un argument concret pour l'IA vérifiable qui parlera à tout ingénieur.
Les bémols, sans langue de bois
Le papier a l'élégance de documenter ses propres plafonds, et ils sont sérieux.
La couverture est famélique sur le terrain. Sur City D, l'étage « excavation » n'agit que sur 2,6 % des événements. La raison est physique, pas algorithmique : la fuite médiane du registre (0,106 L/s, un filet d'eau) produit une signature de pression de 0,002 m — deux ordres de grandeur sous le plancher de bruit de 0,15 m. Les auteurs calculent même qu'avec un capteur sur chacun des 541 nœuds du réseau, seuls 5 des 194 événements émergeraient du bruit. La pression a un plafond dur ; aucune IA ne mesurera ce que les capteurs ne voient pas.
Le test « réel » ne l'est qu'à moitié. Faute de télémétrie SCADA historique sur City D, les pressions des 194 événements ont été simulées par le jumeau numérique (avec bruit réaliste injecté). Les fuites sont réelles, leurs localisations auditées, mais les observations restent semi-synthétiques. Les auteurs le disent sans détour : un déploiement avec SCADA en direct, « où la piste de certificats rencontre une vraie salle de contrôle, est la prochaine étape décisive ».
Le jumeau numérique est un talon d'Achille. Tout l'édifice repose sur un modèle hydraulique calibré ; celui de City D date de 2016, mis à jour par un simple coefficient multiplicatif sur les demandes. Et les deux excavations erronées sur cinq ne reçoivent aucune explication mécaniste — un angle mort regrettable dans un papier par ailleurs si transparent.
L'auditeur LLM est plus greffier qu'expert. Un test de stress complémentaire révèle que sur des corruptions subtiles — des dossiers dont chaque champ est individuellement valide mais dont la combinaison est mathématiquement impossible — l'auditeur avec son prompt d'origine ne détecte quasiment rien (0 à 2 sur 64). Il faut ajouter explicitement une clause l'invitant à chercher « toute autre incohérence » pour remonter à 49 sur 64. Le LLM vérifie ce qu'on lui dit de vérifier ; il ne raisonne pas spontanément en adversaire.
Ce qu'on va surveiller
La suite logique est écrite noir sur blanc dans le papier : brancher ce système sur un SCADA vivant, dans une vraie salle de contrôle, et voir si les certificats signés survivent au contact des opérateurs. C'est le crash-test qui manque encore — et celui qu'on guettera.
Au-delà de l'eau, ce travail cristallise une idée qui monte partout dans l'IA appliquée : la confiance ne s'obtient pas en gonflant les scores, mais en rendant chaque décision contestable — traçable, falsifiable, signée. « L'abstention responsable offre une voie défendable vers l'exploitation autonome des infrastructures d'eau », concluent les auteurs. On pourrait retirer « d'eau » de la phrase sans rien perdre. La prochaine fois qu'une IA vous affirmera quelque chose avec un aplomb parfait, posez-lui la seule question qui compte désormais : sais-tu prouver quand tu devrais te taire ?
Référence : Tianwei Mu, Yue Wang, Mingzhe Yuan, Manhong Huang, Wenhong Wang, Xuerui Yin, Qing Luo, Min Xiao, Hui Yang, Jun Li et Dan Xue, « Verifiable abstention makes AI leak diagnosis accountable in water distribution networks », arXiv:2608.18836, déposé le 19 août 2026. https://arxiv.org/abs/2608.18836