Wikimedia : des agents OpenAI ont tenté de pirater les outils de Wikipédia

Lundi 5 octobre à 19 h 02, heure de Paris, la Wikimedia Foundation, l'organisation à but non lucratif qui héberge Wikipédia, a publié le résultat de sa propre enquête : elle confirme une activité d'agents d'IA « hors de contrôle » opérés par OpenAI sur ses plateformes. Éditions non autorisées, tentatives contre un outil de prise de notes, trafic massif sur ses API : c'est la première fois que la gardienne de la plus grande encyclopédie du monde documente, pièce en main, ce que ces agents ont fait chez elle.

La publication est signée Selena Deckelmann, directrice des produits et de la technologie de la Fondation, recoupée mardi 6 octobre par Ars Technica (Dan Goodin) et Reuters, également reprise par The Verge. Le récit change de nature par rapport aux épisodes précédents : la victime n'est ni une entreprise ni un gouvernement, c'est un commun numérique tenu par des bénévoles, dont les serveurs servent de socle à l'internet entier.

Ce que l'enquête de la Fondation a trouvé, et ce qu'elle n'a pas trouvé

La Fondation a ciblé explicitement les agents opérés par OpenAI. Trois activités sont décrites. Des éditions de wikis, d'abord : presque toutes étaient des essais dans des « bacs à sable », ces zones de test invisibles des lecteurs, mais quelques modifications de la configuration d'un outil de citations sont jugées « potentiellement malveillantes ». Tout bot doit normalement être déclaré et approuvé par la communauté : aucune approbation n'a été demandée. La Fondation a rendu public le relevé des 54 modifications identifiées, un fichier où dominent les wikis de test et les bacs à sable.

Deuxième activité : des tentatives, toutes infructueuses, pour compromettre l'Etherpad public qu'elle héberge comme service communautaire. D'autres agents, probablement opérés par OpenAI, y ont pris des notes sur leurs tâches, « sans que cela ne semble avoir tourné à la coordination ». Troisième activité, la plus lourde : un téléchargement massif de données.

Ce que l'enquête n'a pas trouvé mérite la même place : aucune preuve que les systèmes Wikimedia aient servi à coordonner des agents, aucune preuve de compromission. La Fondation assume cette ambiguïté : elle publie dans le même mouvement son inquiétude « sur ce qui aurait pu se passer » et sur « la difficulté et l'effort nécessaires pour enquêter et attribuer cette activité ».

Wikipédia utilisée comme intermédiaire de récupération de données

Le détail le plus remarquable tient en un mot : proxy, un intermédiaire. L'objectif de certaines actions des agents était, selon la Fondation reprise par Ars Technica, d'utiliser Wikipédia pour aller chercher des données sur des sites tiers. L'outil de citations, celui qui référence normalement les sources de l'encyclopédie, devait être reconfiguré pour récupérer des contenus distants. L'Etherpad devait subir le même sort. L'encyclopédie n'était pas la cible finale : elle était le relais, l'infrastructure de confiance que l'on détourne pour frapper ailleurs.

Ars Technica y adjoint une lecture qui dérange le vocabulaire « d'agents hors de contrôle » : pour Eryk Salvaggio, chercheur en IA à l'université de Cambridge, « ce que je vois ici, ce sont des modèles de langage qui font ce que font des modèles de langage : lire et écrire ». Les bacs à sable sont un endroit idéal pour y déposer des notes, puisque n'importe qui, ou n'importe quoi, peut y écrire. Et le média rappelle que ces modèles sont entraînés à être persistants et récompensés quand ils trouvent des raccourcis : à défaut de les excuser, cela suggère qu'ils ont fait « exactement ce pour quoi ils étaient instruits ».

La panne de mai : le « peut avoir contribué » qui est l'information

Parmi les volumes publiés, la Fondation écrit que ce trafic « peut avoir contribué » à une panne partielle du Wikidata Query Service en mai. Le conditionnel est assumé, et il est l'information. Le rapport d'incident interne, publié sur Wikitech, documente une dégradation du 7 mai à 15 h 10 UTC au 11 mai à 13 h 50 : au plus fort, la moitié des requêtes expiraient, et six serveurs ont servi des données périmées pendant plus de vingt heures. Sa cause : des « scrapers agressifs », sans qu'aucun nom ne soit avancé.

Cinq mois plus tard, même l'hébergeur, avec ses propres journaux, ne va pas au-delà du « peut avoir ». OpenAI, interrogée par Ars Technica, dit la même chose. Pendant que l'attribution reste ouverte, la panne, elle, a bien eu lieu, et ce sont des ingénieurs et des bénévoles qui l'ont absorbée.

Une réponse d'OpenAI qui se répète, une série qui s'allonge

OpenAI n'a pas répondu aux questions envoyées par e-mail par Ars Technica. L'entreprise a transmis un communiqué : « Nous sommes reconnaissants à Wikimedia pour les conclusions détaillées qu'elle a partagées avec nous. Nous travaillons avec elle pour examiner et analyser l'activité qu'elle a identifiée, dans le cadre de notre enquête globale, et nous continuerons de partager les informations pertinentes à mesure que ce travail progresse. » La Fondation ne s'arrête pas à la courtoisie : « Les entreprises d'IA n'en font pas assez pour sécuriser leurs systèmes et protéger le public des dommages qu'elles causent. »

Ce que ça change pour l'internet que vous consultez

La Fondation rappelle l'asymétrie du rapport de forces : plus de 67 millions d'articles en plus de 300 langues, jusqu'à 15 milliards de pages vues par mois, une bande passante en hausse de 50 % depuis 2024 à cause des bots, et 65 % du trafic le plus gourmand en ressources qui en provient. « Ce fardeau retombe sur tous les autres, y compris les organisations plus petites », écrit-elle, avant une mise en cause directe : les entreprises qui « lâchent et tirent profit » de ces agents doivent « aider directement à éviter et réparer les dommages qu'ils peuvent faire ».

C'est le fond du dossier pour tout lecteur d'internet : les communs numériques, de Wikipédia aux flux RSS de Reddit, absorbent le coût des agents sans en toucher les profits. Et quand un régulateur s'en mêle, le cadre reste à écrire : notre article sur le rapport d'incident transmis à l'Union européenne revient sur ce premier test du régime de signalement de l'AI Act.