Quand une IA de newsroom se prend pour un historien : biais raciaux et données d’entraînement
Introduction : l’IA, machine à voyager dans le temps (sans mise à jour)
On adore imaginer l’IA (intelligence artificielle) appliquée à l’info comme un assistant impartial : elle classe, recommande, résume, et parfois promet même de “détecter le biais”. Le papier Impacts of Racial Bias in Historical Training Data for News AI a une manière très efficace de casser ce rêve : si tu entraînes un système sur des archives, tu construis une machine à voyager dans le temps. Et si tu la branches sur un outil éditorial, tu invites le passé à prendre la parole dans le présent.
Les auteurs le disent sans détour : ces modèles “peuvent être conceptualisés comme des historical artifacts” qui “encodent des attitudes et stéréotypes vieux de plusieurs décennies”. Ce n’est pas une provocation philosophique. C’est une observation pratique : un modèle de langage (LLM : Large Language Model) et, plus largement, un classifieur entraîné sur des textes, conserve des régularités d’une époque. Or les normes sociales, elles, bougent. Parfois vite.
Le "petit" détail qui change tout : le label blacks
Tout part d’un résultat de classification qui fait tiquer : un label thématique nommé blacks. Les auteurs notent que, pour un lecteur contemporain, ce terme “sounds antiquated and othering” — daté, et “othering” (qui met à distance : “eux” plutôt que “nous”).
“To a contemporary reader, this … sounds antiquated and othering.”
Le papier ne s’arrête pas à l’indignation. Il demande : d’où vient ce label dans les données ? qu’est-ce qu’il finit par "signifier" dans le modèle ? et que produit-il quand on l’applique à des textes contemporains, écrits dans d’autres médias ?
Ce qu’ils ont construit : un classifieur très réaliste
Le cas d’étude porte sur un classifieur multi-label (un article peut recevoir plusieurs étiquettes) entraîné sur le NYT Annotated Corpus (corpus annoté du New York Times). Pour représenter les mots, il utilise word2vec (word to vector : embeddings de mots) entraîné sur Google News.
Point important : même si l’étude est menée "en contexte de recherche", les auteurs insistent que la tâche et l’architecture ressemblent aux classifieurs utilisés en newsroom pour recommander, éditer, résumer, personnaliser, etc. Cee n’est donc pas une machine à voyager dans le temps exposée au musée : c’est une machine branchée sur la chaîne de production.
Méthode : audit algorithmique + lecture rapprochée
Le papier mélange quantitatif et qualitatif, et c’est précisément ce qui le rend convaincant.
D’abord, quatre ensembles de test : (A) 5 000 articles du NYT déjà labellisés blacks dans le corpus ; (B) 5 000 articles NYT sans ce label ; (C) tous les articles d’avril 2023 d’une sélection de “Black US Media” (437 articles) issue de Mapping Black Media ; (D) tous les articles d’avril 2023 d’une sélection de médias nationaux US (8 163 articles).
Ensuite, ils utilisent LIME (Local Interpretable Model-agnostic Explanations) pour comprendre quels termes poussent une prédiction : LIME perturbe légèrement le texte et mesure ce qui fait varier la sortie. Ils l’appliquent sur vingt articles par set, parmi ceux dont la probabilité dépasse 0,2, avec 1 000 perturbations par article.
Enfin, ils font de la close reading (lecture rapprochée) : les 25 articles les plus scorés par set sont lus et résumés, pour comprendre le contexte, les thèmes, le vocabulaire, et ce que la machine "récompense".
Résultats : le passé devient un cadre de tri
Un label fréquent… et un interrupteur lexical
Dans le NYT, blacks est le 52e label le plus utilisé : 22 332 articles (1,2 % du corpus). Un label proche existe aussi : blacks (in US), 9 317 articles (0,5 %).
Surtout, la présence du mot "blacks" dans le texte est fortement prédictive du label, corrélée à 0,82 (p < 0,001). La machine à voyager dans le temps apprend donc deux choses entremêlées : un sujet et une habitude de rédaction. Un mot devient un bouton.
Dérive d’alignement : même le présent n’est pas un bloc
Un résultat surprenant : les articles du set C ("Black US Media", 2023) reçoivent des scores blacks plus bas que prévu, signe d’une alignment drift (dérive d’alignement) entre le monde appris (NYT + word2vec Google News) et la manière d’écrire dans ces médias.
Traduction : la machine ne voyage pas seulement dans le temps, elle voyage aussi dans un style rédactionnel particulier. Le passé qu’elle conserve n’est pas "le passé", c’est "le passé vu depuis un certain endroit".
Le modèle devient un "détecteur de racisme"… mais mal calibré
Avec LIME, des termes comme "racial" et "racism" ressortent comme influents, ce qui suggère que blacks fonctionne partiellement comme un "racism detector". Mais d’autres mots comme "Hispanic", "minorities" et "women" sont aussi prédictifs, comme si des groupes minorisés étaient regroupés parce que les médias en parlent parfois "de façon similaire" ou dans des contextes proches.
Le papier pointe aussi des absences (Asian Americans, LGBTQ+, etc.) et avance plusieurs explications, dont une très "terre-à-terre" : ce qui n’est pas assez présent dans les données, ou pas présent de la même manière, laisse peu de traces dans la mémoire de la machine.
La lecture qualitative : police, criminalité, victimisation… et un héritage éditorial
En lisant les articles les plus "blacks" (notamment dans l’entraînement NYT et les médias nationaux 2023), les auteurs voient revenir police, justice, violence, discrimination. Ils notent que cela "reinforces prior findings" : la couverture des Black Americans a historiquement amplifié des portraits négatifs (criminalité, victimhood, pauvreté).
À l’inverse, le set C (Black US Media) apparaît plus divers : moins centré sur le policing, plus d’histoires individuelles, et davantage de récits de dommages systémiques.
C’est un basculement sémantique crucial : le modèle n’apprend pas "ce qui concerne les personnes noires", il apprend "comment un grand média a cadré ces sujets sur une période donnée". Notre voyage temporel ne conserve pas le monde : il conserve une façon de regarder le monde.
Les tests contemporains qui piquent : COVID et BLM
Les auteurs testent ensuite deux cas modernes.
Sur la discrimination anti-asiatique pendant le COVID-19, le modèle montre un "racism detector problem" : un article CNN obtient 0,04 en blacks (plutôt “health coverage”), tandis qu’un article Fox News monte à 0,35 — au-dessus du seuil — surtout parce qu’il contient le mot "racism".
Sur BLM (Black Lives Matter), trois articles sur quatre sont correctement labellisés, mais un article Fox sur du fundraising tombe à 0,02 parce qu’il utilise surtout l’acronyme "BLM" sans écrire "Black Lives Matter". Le papier y voit un trou lié à la terminologie contemporaine (abréviations) qui n’existait pas au moment de l’entraînement.
Et la phrase la plus révélatrice résume la dérive :
"Any mention of the word 'racism' is somehow connected to Black people."
La machine à voyager dans le temps a appris une association forte dans ses archives, et elle la réapplique — parfois à contre-sens — à l’actualité.
L’IA est-elle conservatrice "par nature" ?
Comme ces systèmes ont une mémoire énorme, des visions du passé restent dominantes ; donc ils fixent une vision du monde.
Le papier montre que des "out-of-date racial attitudes" (attitudes raciales datées) sont encodées dans le modèle, et que des “temporal gaps … create systematic oversights” (écarts temporels → oublis systématiques) posent des risques en newsroom.
Mais je déplacerais légèrement le terme "par nature" vers "par défaut". Un modèle n’a pas d’opinion ; il a une technique : il compresse le passé et préfère ce qui a été fréquent, stable, répété. Or le langage et les mouvements sociaux évoluent, parfois par rupture (acronymes, hashtags, nouvelles coalitions, nouveaux termes). La machine revient toujours avec des souvenirs impeccables… d’une époque qui n’est plus la nôtre.
La bonne nouvelle, c’est que "par défaut" implique "modifiable". Le papier ne propose pas d’abandonner l’IA, mais de la traiter comme un artefact historique, et de pousser contre les "mythologies marketing" qui vendent la neutralité automatique.
Mise en perspective : dev, data science, et même game design
Ce cas dépasse le journalisme. Si tu construis un moteur de recommandation, un outil de résumé, ou un filtre de contenu, tu es en train de choisir quelles lunettes le système mettra au public. Et si ces lunettes viennent des archives, elles ont parfois des verres jaunis.
Côté data science, l’étude rappelle qu’évaluer "dans le même monde" (NYT → NYT) est trompeur : dès qu’on change d’époque ou de source, la dérive d’alignement apparaît.
Et côté création, imagine un jeu qui classe des quêtes "par communauté" en apprenant sur des textes des années 90 : tu risques de fabriquer un univers cohérent… mais cohérent avec des stéréotypes hérités. La machine à voyager dans le temps adore ce qui est déjà écrit — c’est sa matière première.
Conclusion : l’IA n’oublie pas (et c’est exactement le sujet)
Le papier rend le biais tangible : un label daté, une corrélation lexicale, une dérive d’alignement, des trous de vocabulaire, et au bout du compte des erreurs qui peuvent influencer la découverte de sujets, le résumé, le ciblage d’audience — bref, la visibilité.
La leçon n’est pas "l'IA est mauvaise". La leçon, c’est : si tu déploies une machine à voyager dans le temps, prévois aussi le métier d’horloger. Audit, tests contemporains, diversité de sources, et documentation des données d’entraînement. Sans ça, le passé revient dans le présent… avec un aplomb légèrement gênant.
Et si ton système ressort un label qui sent la naphtaline, ne panique pas : ce n’est pas un bug. C’est juste ton modèle qui te rappelle qu’il a grandi dans une autre époque.