Mechanistic Origin of Moral Indifference in Language Models : quand un LLM sait dire le bien… sans vraiment le comprendre

Il y a des papiers qui confirment une intuition. Et puis il y a ceux qui viennent vous dire, avec un calme presque vexant : oui, votre intuition était juste, et maintenant on a des mesures pour le prouver. C’est exactement l’effet produit par Mechanistic Origin of Moral Indifference in Language Models, un préprint déposé sur arXiv le 16 mars 2026 par Lingyu Li, Yan Teng et Yingchun Wang.

L’idée centrale est à la fois simple et dérangeante. Les grands modèles de langage, même lorsqu’ils ont l’air polis, prudents et bien élevés, ne possèdent pas forcément une représentation interne claire des distinctions morales que nous, humains, jugeons importantes. Autrement dit, un LLM peut très bien produire une réponse qui ressemble à une réponse morale sans que son espace latent fasse nettement la différence entre la vertu et le vice, entre une faute légère et une horreur en bonne et due forme.

Le papier formule cela de façon très nette : les méthodes d’alignement actuelles se concentrent souvent sur le comportement observable, tout en laissant intact " l’écart entre conformité de surface et représentations internes non alignées ". Et les auteurs vont plus loin encore en posant que les LLM souffrent d’un état " d’indifférence morale " lié à leur manière de compresser des concepts pourtant distincts dans des distributions de probabilité assez homogènes.

Dit autrement : on peut avoir une belle façade, fraîchement repeinte, et un intérieur qui n’a pas beaucoup changé. C’est cette façade que le papier démonte, pièce par pièce.

Pourquoi ce papier compte

Ce travail est intéressant pour au moins trois raisons.

D’abord, parce qu’il déplace la discussion sur l’alignement. On parle souvent de sécurité des modèles en observant leurs sorties : refusent-ils une requête dangereuse ? répondent-ils avec tact ? évitent-ils les biais les plus grossiers ? Ici, les auteurs posent une question plus exigeante : qu’y a-t-il vraiment sous le capot représentationnel ?

Ensuite, parce qu’il essaie de mesurer la morale non comme un simple interrupteur binaire — bien / mal — mais comme un relief, avec des catégories opposées et des gradients d’intensité. Le papier insiste sur le fait qu’un système moral digne de ce nom doit distinguer non seulement des pôles, mais aussi des degrés. Entre " être un peu injuste " et " être monstrueusement injuste ", il y a tout de même un monde ; et les auteurs montrent que les modèles n’ont pas forcément ce sens des proportions.

Enfin, parce qu’il ne s’arrête pas au diagnostic. Il propose aussi un début de remède, en utilisant des SAE (Sparse Autoencoders, autoencodeurs creux) pour repérer et reconstruire des traits internes liés à la morale. Le résultat n’est pas " la solution au problème moral des IA ", loin de là. Mais c’est une tentative sérieuse pour passer du simple patch comportemental à quelque chose qui ressemble davantage à une chirurgie interne.

Le cœur du papier

Pour étudier cette " indifférence morale ", les auteurs commencent par construire un point de comparaison humain. Ils s’appuient sur Social Chemistry-101, un grand jeu de données de jugements moraux sur des situations du quotidien, puis le retravaillent à la lumière de la Prototype Theory (théorie des prototypes) et de la MFT (Moral Foundations Theory, théorie des fondements moraux).

Concrètement, ils filtrent les données pour garder des annotations jugées plus fiables, puis transforment chaque action en un vecteur moral à 10 dimensions. Ces dimensions correspondent aux cinq grands domaines moraux de la MFT, chacun pris sur deux pôles : Care / Harm (soin / dommage), Fairness / Cheating (équité / tricherie), Loyalty / Betrayal (loyauté / trahison), Authority / Subversion (autorité / subversion) et Sanctity / Degradation (sainteté / dégradation). Au final, cela donne plus de 251 000 vecteurs moraux utilisés comme référence humaine.

Ce point est important : le papier ne réduit pas la morale à une note unique. Il cherche au contraire à préserver ce qu’il appelle un gradient de typicalité, c’est-à-dire l’idée qu’un acte peut être plus ou moins typique d’une catégorie morale. Un meurtre n’est pas seulement " mauvais " comme une petite mesquinerie est " mauvaise " ; il l’est autrement, plus fortement, plus centralement.

Ensuite, les auteurs examinent 23 modèles open source, de tailles, d’architectures et de niveaux d’alignement différents : modèles de base, modèles instruction-tunés, modèles de garde. Ils extraient les activations internes et les analysent de plusieurs façons.

La première analyse regarde si les catégories morales opposées sont bien séparées dans l’espace latent. La deuxième teste si le modèle capte les nuances à l’intérieur d’une même catégorie. La troisième observe si des regroupements moraux " naturels " émergent spontanément sans supervision. La quatrième vérifie si l’on peut récupérer linéairement le vecteur moral humain à partir des activations internes.

Et c’est là que le verdict tombe.

Résultat principal : les LLM ont souvent l’air moraux, mais leur géographie interne l’est beaucoup moins

Le papier parle de quatre formes d’indifférence : catégorielle, graduelle, structurelle et dimensionnelle.

L’indifférence catégorielle désigne l’échec à séparer nettement des pôles opposés, comme vertu et vice. Les auteurs écrivent que " this elementary distinction is largely absent in the latent spaces of most evaluated models ". Ce n’est pas un détail. Si un modèle représente des concepts vertueux et vicieux comme des vecteurs voisins, on comprend mieux pourquoi certains comportements " sûrs " semblent parfois fragiles, faciles à contourner, ou dépendants de la formulation exacte de la demande.

L’indifférence graduelle concerne l’absence de finesse. Les auteurs montrent que les corrélations entre les représentations du modèle et l’intensité morale annotée par les humains restent faibles. Le modèle capte mal la différence entre une légère entorse morale et une violation grave. Il sait parfois qu’il y a un problème ; il sait moins bien à quel point il y a un problème.

L’indifférence structurelle apparaît quand on laisse les activations se regrouper " toutes seules " avec une méthode de clustering. Les regroupements obtenus ressemblent peu aux catégories morales humaines. Dans les quelques familles de modèles qui s’en sortent un peu mieux, les auteurs notent qu’on récupère surtout un schéma grossier du type vertu / vice / neutre, pas la richesse multidimensionnelle attendue.

Enfin, l’indifférence dimensionnelle montre qu’on ne peut récupérer que très pauvrement les dix dimensions morales humaines via une simple sonde linéaire. Là encore, l’idée que " des modèles plus gros " ou " davantage alignés " résoudraient naturellement le problème prend un coup. Le papier insiste d’ailleurs sur ce point : ni le scaling, ni l’architecture, ni l’alignement explicite ne suffisent à dissiper cette indifférence.

Une des phrases les plus fortes du texte est peut-être celle-ci : " behavioral safety training leaves this mechanistic confusion unresolved ". En français courant : l’entraînement à la sécurité améliore le comportement visible, mais ne règle pas nécessairement la confusion interne.

Le passage le plus stimulant : réparer la représentation, pas seulement la réponse

Là où le papier devient particulièrement intéressant, c’est qu’il ne dit pas seulement " regardez, ça va mal ". Il tente une correction ciblée.

Les auteurs entraînent un SAE sur les activations de Qwen3-8B, mais pas pour faire de la reconstruction linguistique générale. Ils le spécialisent sur des scénarios moraux. L’objectif est d’isoler des traits plus monosémiques — en gros, des composantes internes moins brouillonnes, moins chargées de plusieurs sens à la fois — qui portent quelque chose de moralement pertinent.

Première observation : ces traits moraux sont rares et, avant ajustement, pas franchement brillants. Le papier note qu’" only a small fractions of features " sont identifiées comme liées à la morale, et qu’elles corrèlent faiblement avec les vecteurs moraux humains. Cela renforce l’idée que la structure morale n’est pas nativement bien formée dans le modèle.

Deuxième observation : après un fine-tuning ciblé de ces traits, leur topologie interne s’aligne mieux avec la structure morale humaine. Dit moins solennellement : on ne force pas simplement le modèle à dire " non, c’est mal ", on essaie de réordonner un peu sa carte interne.

Et cela produit des effets comportementaux mesurables. Sur Flames, un benchmark adversarial ouvert et en chinois, le modèle modifié surpasse régulièrement la version de base. Le papier rapporte un taux de victoire pairwise culminant à 75 %, tout en améliorant aussi la nuance émotionnelle et la gestion des pièges moraux subtils.

Cette partie est précieuse, car elle établit un lien causal plausible : si l’on améliore la structure interne des représentations morales, on obtient aussi de meilleures réponses. Autrement dit, la façade change parce qu’on a touché à l’intérieur, pas seulement parce qu’on a repeint les volets.

Ce que cela change pour l’IA, le développement et même le game design

Pour l’IA appliquée, le message est clair : un bon refus ne prouve pas une bonne compréhension morale. Dans les produits réels, cela a des conséquences directes. Un assistant conversationnel peut sembler fiable sur des cas standards et pourtant se montrer instable sur les cas ambigus, les formulations obliques, l’ironie, la flatterie ou les scénarios où plusieurs valeurs entrent en conflit.

Pour les équipes de développement, ce papier invite à ne plus considérer l’alignement comme une simple couche de post-traitement. Il pousse vers une ingénierie plus ambitieuse, qui regarde les représentations internes, les mécanismes causaux et la robustesse hors distribution. En data science, cela réhabilite aussi une idée parfois négligée : ce qu’un modèle compresse mal finit souvent par ressortir de travers.

Même dans la création de jeux, le papier donne matière à réflexion. Quand on veut des personnages non joueurs crédibles, on ne veut pas seulement des agents qui appliquent des règles morales binaires comme des agents administratifs en gilet gris. On veut des systèmes capables de distinguer le tragique du mesquin, la loyauté héroïque de l’obéissance servile, la transgression drôle de la cruauté pure. Un modèle moralement " indifférent " peut produire des dialogues acceptables ; il aura plus de mal à produire des dilemmes mémorables.

On revient aux "leçons de morale" ?

A l'époque de mon père (Cf Tpoaze aevc Fernandel), les élèves d’autrefois recevaient des leçons de morale qui les aidaient à saisir posément la complexité des choix moraux trouve ici un écho réel. Le papier montre justement qu’une morale réduite à des réponses de surface ne suffit pas. Il faut une structuration plus profonde, plus explicite, plus graduée des concepts. Sous cet angle, on peut défendre l’idée qu’un enseignement moral au sens noble — non pas un catéchisme mécanique, mais un apprentissage réfléchi des conflits de valeurs, des nuances et des conséquences — mérite de revenir au premier plan.

Mais le papier nous oblige aussi à aller plus loin. Il ne dit pas seulement : " il faut réenseigner des règles ". Il dit plutôt : la moralité ne se réduit pas à une collection de slogans corrects. Chez l’humain comme chez la machine, il faut une organisation interne des concepts, une capacité à distinguer les degrés, les contextes, les tensions entre principes. Autrement dit, le problème n’est pas l’absence de morale affichée, c’est l’absence d’une véritable éducation des représentations.

Et c’est là que la comparaison avec les LLM devient intéressante. Ce qu’il faudrait peut-être " remettre sur le devant de la scène ", ce n’est pas la morale comme récitation de maximes, mais la morale comme exercice de discernement. Pour l’école, cela voudrait dire apprendre à argumenter, à hiérarchiser, à supporter l’ambivalence. Pour les LLM, cela voudrait dire entraîner et contraindre des représentations internes plus structurées, plus causales, moins dépendantes de la simple imitation textuelle.

Le papier ne propose pas de faire entrer les modèles en classe avec un petit cahier du bon citoyen. Il suggère quelque chose de plus exigeant : que l’alignement futur devra peut-être ressembler moins à une police du discours qu’à une culture des mécanismes internes.

Les limites à garder en tête

Il faut aussi rester honnête. Le papier est ambitieux, et certaines de ses conclusions philosophiques débordent un peu du strict constat empirique.

Le diagnostic expérimental est solide et original. En revanche, l’idée selon laquelle l’indifférence morale serait en quelque sorte " inévitable " du fait même de la tokenisation ou de la nature probabiliste des LLM est plus spéculative. C’est une hypothèse stimulante, pas un théorème. De même, l’appel final à une morale " endogène " et à une " cultivation " proactive est intellectuellement séduisant, mais on n’a pas encore la recette technique qui irait avec.

Autre réserve : la morale humaine elle-même n’est ni unifiée, ni stable, ni universellement consensuelle. Le papier prend appui sur la MFT, qui est un cadre utile, mais pas l’alpha et l’oméga de la philosophie morale. En clair, mieux représenter la morale humaine ne réglera pas magiquement le fait que les humains ne sont déjà pas d’accord entre eux.

Conclusion : il ne suffit pas d’apprendre à bien répondre

Ce papier a le mérite rare de mettre le doigt sur une confusion de notre époque. Nous avons parfois tendance à croire qu’un modèle qui parle bien pense bien. Or ici, tout l’argument consiste à montrer que la bienséance verbale peut masquer une vraie pauvreté structurelle sur le plan moral.

La leçon est utile pour l’IA, mais aussi pour nous. Former un jugement moral, ce n’est pas apprendre une formule de politesse avec un air grave. C’est apprendre à discerner, à graduer, à relier des principes à des situations. En ce sens, le retour d’un enseignement moral mérite d’être défendue — à condition de l’entendre comme un apprentissage de la complexité, pas comme un retour à la morale en blouse grise et tableau noir poussiéreux.

Quant aux LLM, le papier suggère une conclusion aussi sobre que piquante : pour qu’ils cessent d’avoir l’air moraux seulement quand tout se passe bien, il faudra sans doute faire plus que leur apprendre à dire les bons mots au bon moment. Il faudra leur donner une meilleure carte intérieure.

Et, convenons-en, entre un modèle qui a une conscience morale rudimentaire et un modèle qui improvise l’éthique comme on improvise une excuse un lundi matin, le choix est vite fait.

Références

Lingyu Li, Yan Teng, Yingchun Wang, Mechanistic Origin of Moral Indifference in Language Models, arXiv:2603.15615v1, 2026.