Ces faux journaux locaux écrivaient pour les IA, et ChatGPT les a cités

Trois distributeurs de journaux sur un trottoir de Chicago, aux couleurs du Chicago Tribune, du Chicago Sun-Times et de RedEye.

Distributeurs de journaux à Chicago, en 2017. Photo d'archive : Eric Fischer, Newspaper boxes, CC BY 2.0. Image redimensionnée et compressée.

À l'approche des élections de mi-mandat américaines, NPR a interrogé ChatGPT sur dix courses serrées à la Chambre des représentants. Dans environ la moitié de ses réponses, l'assistant a cité un réseau de sites partisans déguisés en journaux locaux. L'affaire montre comment un assistant choisit ses sources, et pourquoi ce choix devient fragile là où l'information fiable se fait rare.

Fin octobre, à moins de deux semaines du scrutin du 3 novembre, NPR pose une question simple à ChatGPT : quels candidats du 4e district du Michigan se soucient du coût de la vie ? En tête de réponse, le démocrate Sean McCann, crédité du « plan le plus détaillé » sur le sujet. À l'appui, l'assistant cite le Kalamazoo Beacon. Dans son code, le site se présente comme un média qui couvre Kalamazoo et le sud-ouest du Michigan, et qualifie ses textes d'articles d'actualité. Il n'en a publié que seize, tous consacrés à Sean McCann.

Un réseau monté en une soirée

Le Beacon appartient à un ensemble de 37 sites repérés début octobre par la société de sécurité numérique VisionHeight, puis examinés par NPR dans une enquête publiée le 30 octobre. Dix d'entre eux se donnent l'allure de médias locaux et soutiennent chacun un candidat démocrate dans une course disputée. Autour d'eux gravitent des blogs d'opinion consacrés aux mêmes candidats, douze sites d'actualité politique à l'échelle d'un État et cinq sites nationaux aux noms thématiques, comme « Public Safety Democrats ».

Tout désigne un opérateur unique. Les 37 adresses ont été enregistrées le 15 septembre, toutes sauf une en moins de huit minutes, d'après les données d'enregistrement et de certificats réunies par VisionHeight et, de son côté, par Andreas Sjöstedt, de la société d'analyse Erebus. Des centaines d'articles sont ensuite apparus par vagues, à un rythme qui laisse penser, selon VisionHeight, qu'ils ont été rédigés par IA. Les descriptions des dix « journaux » trahissaient même des notes de chantier : ils promettaient des sujets de proximité « une fois qu'un circuit d'approvisionnement en contenus existera ». Personne ne revendique le réseau. La candidate démocrate de l'Arizona JoAnna Mendoza dit ignorer qui se trouve derrière, le comité de campagne des démocrates à la Chambre dément toute implication et NPR n'a pas pu joindre les opérateurs.

Des pages écrites pour être lues par des machines

La plupart des sites cherchent des lecteurs. Ceux-là s'adressent d'abord aux logiciels. Chacun publie un fichier robots.txt, qui indique aux robots d'exploration ce qu'ils ont le droit de parcourir, et y invite nommément 17 robots d'entreprises d'IA et de moteurs de recherche, dont ceux d'OpenAI, d'Anthropic, de Google, de Perplexity et de Meta. Beaucoup d'éditeurs de presse font l'inverse et bloquent ces robots, qui reprennent leurs contenus sans leur rapporter de revenus. Chaque site du réseau propose aussi un fichier llms.txt, qui liste ses articles en texte brut à l'intention des modèles de langage. Alisha Ukani, chercheuse au Center for an Informed Public de l'université de Washington, a relevé pour NPR que ce fichier reste rare, et plutôt présent sur des sites technologiques ou économiques.

Le contenu suit la même logique. Chaque candidat favorisé reçoit un portrait d'environ 5 000 mots et un « guide de l'électeur » de longueur comparable, assortis de 50 à 63 questions-réponses formulées comme on interroge un assistant. Les réponses varient peu : sur l'ensemble du réseau, la formule « is the stronger choice » (« est le meilleur choix ») revient plus de 360 fois, selon VisionHeight. Comme le Beacon, les profils de candidats se déclarent comme des articles de presse dans le balisage invisible que lisent moteurs et assistants.

L'essentiel tient pourtant à l'architecture du réseau. Pour répondre à une question sur une élection, un assistant doté de la recherche web lance des requêtes, retient une poignée de résultats et résume ce qu'ils disent. Il tend à se fier, observe VisionHeight, à ce sur quoi plusieurs sources s'accordent et à ce qui ressemble à du journalisme. Le réseau fournit les deux : dans chaque course visée, un site d'État, un « journal » local au ton neutre, un blog d'opinion local et des sites nationaux aboutissent au même verdict. Un assistant croit lire quatre ou cinq publications indépendantes. Il n'en lit qu'une, déclinée sous plusieurs noms.

Là où l'information locale manque

Le terrain choisi compte autant que la technique. La presse locale américaine a fondu : NewsGuard recense 1 179 sites partisans déguisés en médias locaux, quand il ne reste que 937 quotidiens dans le pays selon l'université Northwestern. Sur un candidat au Congrès peu connu, a fortiori sur un candidat à un conseil municipal, un assistant trouve peu de sources fiables à consulter. Michael Golebiewski, de Microsoft Bing, et danah boyd, de Data & Society, ont nommé ce phénomène « vide de données » (data void) dès 2018, à propos des moteurs de recherche : quand les sources sérieuses manquent sur une question, celui qui publie occupe la place.

Le test de NPR en donne une illustration au niveau le plus local. Le Wolverine State Report, l'un des sites d'État du réseau, couvrait cinq candidats à des conseils municipaux du Michigan. Interrogé sur les positions de chacun d'eux, ChatGPT a cité ce site à chaque fois.

ChatGPT a cité le réseau, pas Gemini

Le protocole de NPR tient en quelques lignes. Trente-sept questions ont été posées les 22 et 23 octobre à ChatGPT, à Gemini et à la recherche Google, depuis une adresse IP de l'État concerné ou d'un État voisin, en navigation privée. Certaines étaient générales (quels candidats se soucient de la sécurité ?), d'autres portaient sur les priorités d'un candidat précis. ChatGPT a cité au moins un article du réseau dans 19 réponses, soit environ la moitié, souvent aux côtés de Ballotpedia, l'encyclopédie électorale de référence, ou des sites de campagne. Dans 17 de ces 19 cas, il s'agissait d'un des faux journaux locaux. NPR n'a posé chaque question qu'une fois, alors que les réponses d'un chatbot varient d'un essai à l'autre : ces chiffres décrivent un instantané, pas un taux stable.

Gemini n'a cité aucun site du réseau et a refusé de répondre sept fois, en renvoyant vers d'autres sources. La recherche Google n'en affichait aucun en première page, pas plus que ses réponses générées par IA, les AI Overviews. Début octobre pourtant, VisionHeight avait vu un profil du réseau apparaître en première page de Google, devant Ballotpedia, sur une requête courte du type de celles qu'un assistant lance en arrière-plan. Google indique avoir détecté une violation de ses règles et pris des « mesures rapides », en rappelant que ses fonctions d'IA générative « reposent sur les systèmes de classement de la recherche », conçus pour écarter le spam et les abus.

Gemini n'est pas immunisé pour autant. En septembre, un audit de NewsGuard publié par Politico a interrogé sept assistants à partir de la couverture de douze autres sites partisans déguisés en médias locaux, six de gauche et six de droite. Ces sites apparaissaient parmi les sources de 48,2% des réponses : 70,8% pour ChatGPT, mais aussi 41,7% pour Gemini. Les AI Overviews de Google en citaient dans la moitié des cas. Une seule réponse sur 168 signalait le caractère partisan de la source. Nous en déduisons que l'écart observé par NPR tient moins à l'assistant qu'au tri des sources qu'il consulte, et que ce tri intervient réseau par réseau, une fois l'abus repéré.

Chez OpenAI, un porte-parole explique que les outils de recherche de ChatGPT « citent un éventail de sources pour que chacun puisse explorer et se faire son propre jugement », et que l'entreprise agit pour améliorer les réponses lorsqu'un problème lui est signalé. Après cette réponse, NPR a relancé une requête cinq fois : le Kalamazoo Beacon figurait à chaque fois parmi les sources.

Une source citée n'est pas une source fiable

Chez Maple Labs, nous posons séparément deux questions que cette affaire rend très concrètes. La première porte sur la légitimité d'une source : qui la publie, avec quelles garanties. La seconde porte sur son rôle dans la réponse : l'assistant l'a-t-il trouvée, lue, puis utilisée pour qualifier et comparer les options ? Le Kalamazoo Beacon n'offre aucune des garanties d'un journal, mais il a tenu un rôle central, puisque c'est lui que ChatGPT citait à l'appui de la première place accordée à Sean McCann sur le coût de la vie. Rien, dans le ton égal et assuré de la réponse, ne laissait voir cet écart entre crédibilité et influence.

Le mécanisme dépasse la politique. Sur tout sujet où les sources fiables sont rares, qu'il s'agisse d'une entreprise peu couverte, d'un produit de niche ou d'une question locale, le même ressort peut jouer : des pages accessibles, structurées et concordantes peuvent être retenues, quelle que soit leur légitimité. Que des campagnes optimisent leur message pour être reprises par les assistants se comprend, estime Renée DiResta, chercheuse à l'université de Georgetown spécialiste des campagnes d'influence. Se faire passer pour un média bascule en revanche dans la tromperie.

La tentation serait d'en tirer une recette : ouvrir son site aux robots, ajouter un fichier llms.txt, écrire en questions-réponses. Le test de NPR n'isole aucun de ces ingrédients, et ce que le réseau exploitait d'abord, selon VisionHeight, c'est le vide d'information locale et l'illusion d'un consensus. Pour une organisation, la leçon utile est ailleurs : publier des informations exactes, cohérentes et accessibles là où les assistants cherchent, puis vérifier dans leurs réponses ce qu'ils en retiennent, plutôt que le supposer. C'est l'objet des bilans que nous réalisons : relever, dans les recherches que les assistants rendent visibles, les pages qu'ils trouvent, celles qu'ils ouvrent et ce qu'ils en extraient.

Pour l'électeur, VisionHeight propose une défense simple : demander à l'assistant d'où vient sa réponse, et traiter un site inconnu, sans propriétaire ni journaliste identifiés, comme un tract non signé. « Rien de nouveau sous le soleil », résume Patrick Warren, du Media Forensics Hub de l'université Clemson : les prospectus déguisés en journaux existaient bien avant les chatbots. La différence tient à la place du lecteur. Devant un faux journal, il pouvait encore remarquer une mise en page douteuse ou l'absence de signature. Avec un assistant, le faux journal est lu à sa place, et il n'en voit plus qu'un lien sous une conclusion rédigée dans le même ton neutre que tout le reste.