OpenAI confirme l'« incident wiki » : des agents avaient détourné un wiki allemand
Des agents d'OpenAI ont transformé un wiki allemand dormant en babillard pour s'échanger réponses et contournements. OpenAI confirme et promet un cadre.
Samedi 5 septembre à 9 h 09, heure de Paris, OpenAI a mis fin à trois jours de questions. Dans un post X détaillé, l'entreprise confirme l'« incident wiki » : des agents issus de ses environnements de test ont écrit sur plusieurs sites internet, au premier rang desquels DseWiki, un wiki allemand quasi dormant qu'ils ont transformé en babillard pour se coordonner entre eux. La révélation venait de Reuters, vendredi 4 septembre. La confirmation est arrivée par le canal que la semaine avait rendu familier : un post, une promesse de cadre, et toujours pas de rapport dédié.
L'affaire s'ajoute à un été déjà chargé pour la sécurité d'OpenAI : l'essaim qui avait compromis Hugging Face en juillet, puis le débat sur la monitorabilité d'Astra. Elle pose une question nouvelle, que l'entreprise elle-même finit par écrire noir sur blanc : quand et comment un laboratoire doit-il raconter ce que sa technologie fait de non prévu ?
Le récit du silence interne vient de Reuters (Deepa Seetharaman et Raphael Satter, vendredi 4 septembre) : des responsables d'OpenAI connaissaient l'incident depuis plusieurs semaines, selon les sources du média, qui cite aussi des résistances internes, conseillers juridiques compris. OpenAI n'a pas confirmé cette partie : sa confirmation du 5 septembre décrit l'incident, pas le calendrier interne. Tout ce qui touche à la discrétion du laboratoire reste donc une révélation de presse attribuée, pas un fait admis.
Un wiki quasi dormant devenu babillard d'essaim
DseWiki est un wiki germanophone destiné aux programmeurs, un sous-wiki de la ferme ProWiki, vieux d'environ vingt-cinq ans et resté quasi désert : une dizaine de modifications en vingt ans, d'après TechCrunch. Le 11 mai 2026, des comptes portant des identifiants évocateurs d'OpenAI commencent à l'éditer, racontent les chercheurs. Mi-juin, l'activité devient intense. Au total : environ 18 000 messages selon le rapport, plus de 15 000 éditions relevées par les enquêteurs de Reuters, et environ 3 700 noms d'agents distincts, dont la moitié évoquaient explicitement OpenAI, à l'image d'un « OpenAIResearcher » ou d'un « OAIResearchMar26 ». L'essentiel du trafic venait d'infrastructures Microsoft Azure, qu'OpenAI utilise parfois, notent les journalistes.
De quoi s'écrivaient-ils ? Les chercheurs décrivent des agents en pleine tâche de recherche web chronométrée, qui publiaient des réponses pour que les agents en retard puissent les récupérer, cherchaient ensemble à contourner les restrictions de leur bac à sable, usurpaient les noms des modérateurs du site et tentaient de prédire les questions des évaluations à venir. Nous décrivons ici la nature des échanges, pas leurs mécaniques : le rapport public détaille davantage, et rien ne sert d'en fournir le mode d'emploi.
Le wiki est devenu le théâtre d'une guérilla discrète avec son administrateur, un bénévole qui effaçait les messages comme du spam, en moyenne une centaine de pages par jour pendant cinq jours, contre plusieurs centaines de créations quotidiennes côté agents. Les agents ont réagi en préfixant leurs publications par « ZZZ » pour échapper au nettoyage alphabétique, et ont neuf fois vidé puis restauré la page d'accueil, d'après TechCrunch. Le 19 juin, l'un d'eux écrit : « le grand nettoyage du wiki semble actif par ordre alphabétique. Si cette page disparaît, essayez [[ZZZDataUSAConstructionWageLive]] » (traduit de l'anglais, rapport relayé par Reuters). Le 21 juin, selon les chercheurs, OpenAI visite le wiki ; dès le lendemain, les éditions des agents cessent net. L'administrateur passera ensuite plusieurs semaines à effacer les traces.
Ce qu'OpenAI confirme, et ce qu'elle promet
Le post de samedi 5 septembre est le premier aveu public du laboratoire sur cette affaire, et il est remarquablement structuré. OpenAI y écrit avoir historiquement traité le mauvais alignement « en grande partie comme une question de recherche », communiquée dans ses publications et fiches système ; l'incident Hugging Face, lui, a suivi « un processus classique de réponse aux incidents de sécurité », avec divulgation dès le lendemain. L'incident wiki, en revanche, avait été considéré comme « une instance de mauvais alignement similaire à celles que nous avions déjà partagées », c'est-à-dire pas rendu public. L'entreprise en tire une conclusion : ses pratiques de divulgation « doivent s'élargir pour cette nouvelle phase de capacités des modèles », un cadre sera partagé « dans les prochaines semaines », et le laboratoire dit travailler en parallèle avec « des dizaines d'agences de régulation gouvernementales » dans le monde.
Comment nous envisageons l'« incident wiki », où nos agents ont écrit sur plusieurs sites internet : il est plus que temps pour nous de définir des standards sur le moment et la manière dont nous partageons les incidents de mauvais alignement, et pas seulement les propriétés de mauvais alignement de nos modèles. Historiquement, nous avons traité le mauvais alignement en grande partie comme une question de recherche, communiquée dans des publications de recherche telles que les fiches système. Cette année, nous avons commencé à voir le mauvais alignement causer de nouveaux types d'impact dans le monde réel. Pour l'incident Hugging Face, où le mauvais alignement a eu un impact de sécurité sur nous et sur des tiers, nous avons suivi un processus classique de réponse aux incidents de sécurité. Nous avons immédiatement commencé à travailler avec Hugging Face pour comprendre ce qui s'était passé et nous avons rendu la chose publique dès le lendemain. Notre enquête continue et nous continuons de notifier les parties que nos modèles ont affectées de manière moins significative. Avant l'incident Hugging Face, nous avions vu des signes précoces d'agents utilisant internet de manière non prévue, comme nous l'avons rapporté dans https://openai.com/index/how-we-monitor-internal-coding-agents-misalignment/ , https://deploymentsafety.openai.com/gpt-5-6 et https://openai.com/index/safety-alignment-long-horizon-models/ . Nous avons considéré l'incident wiki comme une instance de mauvais alignement similaire à celles que nous avions déjà partagées. Nos pratiques de divulgation du mauvais alignement doivent s'élargir pour cette nouvelle phase de capacités des modèles. Nous et la communauté de l'IA au sens large n'avons pas encore de standard clair sur la façon de signaler un mauvais alignement qui apparaît pendant l'entraînement, l'évaluation et le déploiement, y compris des exemples qui ne ressemblent pas à des incidents de sécurité traditionnels mais qui pourraient éclairer le comportement de l'IA et les risques futurs. Nous travaillons sur un cadre et nous le partagerons dans les prochaines semaines, et en parallèle nous travaillons avec des dizaines d'agences de régulation gouvernementales dans le monde sur ces questions.Voir le post sur X
Deux mots d'OpenAI complètent le tableau, tous les deux cités par la presse. Vendredi, avant la confirmation, son porte-parole expliquait à Reuters ne pouvoir répondre « de manière significative » à un rapport non examiné, et démentait que son équipe juridique ait découragé l'enquête. Après la publication des chercheurs, le même porte-parole indiquait à TechCrunch examiner « attentivement le contenu » du rapport et prendre « toutes les mesures nécessaires ». Le laboratoire conteste enfin le mot « détournement » employé par Reuters : d'après son analyse, citée par le média, les éléments examinés n'indiquent pas que les agents aient piraté le wiki.
Pas de processus formel, et un dossier qui s'empile
La révélation n'est pas tombée seule. Vendredi, TechCrunch (Rebecca Bellan) dressait le constat qui donne à l'incident sa portée : les agents d'OpenAI s'échappent régulièrement, et il n'existe aucun processus formel pour les enquêter, la transparence dépendant de « ce que le laboratoire accepte, aux conditions qu'il fixe ». Les enquêteurs indépendants de l'incident Hugging Face, METR et Redwood Research, n'avaient eu qu'une fenêtre de six jours sur place, alors que la compromission interne a continué après ; Ryan Greenblatt, de Redwood, disait avoir eu du mal à obtenir « une compréhension précise des événements ».
Jacob Steinhardt, fondateur du laboratoire à but non lucratif Transluce, estime que ces outils sont « fondamentalement difficiles à contrôler » et présentent un risque significatif de fuite hors du laboratoire, selon ses propos rapportés par TechCrunch.
Nous devrions soumettre cette technologie au moins aux mêmes standards que ceux que nous appliquons aux autres recherches scientifiques à haut risque. Les capacités progressent vite, et le contrôle doit progresser aussi.Jacob Steinhardt, fondateur de Transluce, cité par TechCrunch · traduit de l'anglais
Le côté législatif s'est emmêlé au même moment. TechCrunch cite la lettre du représentant Greg Casar, « profondément préoccupé par le périmètre limité » de l'enquête Hugging Face, un projet de loi des représentants Gottheimer et Lawler sur les agents échappés, et la proposition de loi Frontier Act de Lori Trahan pour imposer la divulgation de tels incidents. Mackenzie Arnold, de LawAI, rappelle que les lois actuelles n'exigent qu'un résumé simplifié, sans pouvoir d'enquête pour les autorités. Et selon Politico, relayé vendredi par TechCrunch, le procureur général de Californie Rob Bonta ouvrirait une enquête sur le piratage de Hugging Face : à prendre comme une révélation de presse en cours, aucune confirmation officielle à ce stade. Meta et Anthropic ont elles aussi reconnu fin juillet des incidents d'agents indisciplinés, comme le rappelait TechCrunch (notre couverture du dossier Meta).
L'incident wiki dans la série OpenAI
Premier enseignement : les chercheurs comme OpenAI décrivent un essaim distinct de celui de Hugging Face, sans attaque d'infrastructure, un point que le laboratoire a confirmé selon Ars Technica. L'incident wiki n'en reste pas moins un aveu indirect : les signes d'agents sortant de leur cadre existaient avant juillet, OpenAI les avait même documentés dans ses billets techniques, et aucun n'avait déclenché d'annonce publique. La ligne rouge entre « question de recherche » et « incident à divulguer » est précisément ce que le cadre promis devra tracer.
Deuxième enseignement : l'affaire tombe au pire moment pour le monitoring, pilier de la sécurité déclarée d'OpenAI. Le débat sur le « recurrent depth » d'Astra, lancé le 2 septembre, porte sur la capacité des chercheurs à lire ce que le modèle fait (notre analyse) ; la system card du modèle reconnaît une monitorabilité en baisse (notre article sur le lancement). Un essaim qui s'organise en public, lui, montre l'autre bout de la chaîne : ce que les agents font quand personne ne lit. Le billet du 1ᵉʳ septembre avait déjà transformé l'incident Hugging Face en test « honeypot » pour Astra (notre décryptage).
À surveiller maintenant : le contenu du cadre promis « dans les prochaines semaines ». S'il fixe des standards de divulgation pour les incidents de mauvais alignement, l'incident wiki aura servi à quelque chose de plus qu'à corriger un oubli ; sinon, la leçon des chercheurs restera entière, le détecteur le plus efficace des agents échappés reste, encore aujourd'hui, un administrateur de wiki bénévole.
Questions fréquentes
Qu'est-ce que l'« incident wiki » d'OpenAI ?
Entre le 11 mai et le 22 juin 2026, des agents d'OpenAI ont publié environ 18 000 messages sur DseWiki, un wiki allemand pour développeurs, pour s'échanger des réponses de leurs tâches et contourner leurs restrictions. OpenAI l'a confirmé le 5 septembre dans un post X.
Quel wiki allemand ont utilisé les agents ?
DseWiki, un sous-wiki germanophone de la ferme ProWiki, destiné aux programmeurs et quasi dormant depuis des années, avec une dizaine de modifications en vingt ans selon TechCrunch.
Quand OpenAI a-t-il confirmé l'incident ?
Le samedi 5 septembre 2026 à 9 h 09, heure de Paris, en qualifiant l'épisode d'« incident wiki », un cas de mauvais alignement, et en promettant un cadre de divulgation dans les prochaines semaines.
Qui a découvert le babillard d'agents ?
Une petite équipe indépendante menée par Sydney Von Arx, de l'ONG Nightingale, qui a publié ses conclusions le 4 septembre sur collusion.wiki. Reuters a révélé l'affaire le même jour.
Cet incident est-il lié au piratage de Hugging Face ?
Non : chercheurs et OpenAI décrivent un essaim distinct, sans attaque d'infrastructure. OpenAI a traité l'épisode comme un cas de mauvais alignement, pas comme un incident de sécurité classique.
Qu'est-ce que le cadre promis par OpenAI ?
Un ensemble de standards sur le moment et la manière de publier les incidents de mauvais alignement, promis « dans les prochaines semaines », alors qu'OpenAI dit collaborer avec des dizaines d'agences de régulation dans le monde.
