Ralentissement de l'IA : OpenAI, Anthropic et Google négocient un accord « pacing »
Après l'essai de Dario Amodei, OpenAI confirme des semaines de discussions avec Anthropic et Google DeepMind sur un cadre commun de sécurité. Sans Washington.
Samedi 12 septembre, Dario Amodei, cofondateur et PDG d'Anthropic, publie sur son site un essai programmatique : « We Must Pace the Frontier », nous devons cadencer la frontière. Le titre fait écho à la pétition « Pacing the Frontier », signée en juillet par plus de 1 100 salariés des grands laboratoires, dont nous racontions l'histoire dans notre article sur Sam Altman et le ralentissement de l'IA.
Trois jours plus tard, OpenAI confirmait négocier depuis plusieurs semaines avec Anthropic et Google DeepMind un cadre commun de sécurité. Un événement inédit : les trois laboratoires américains de frontière, concurrents acharnés, discutent de brider ensemble leur vitesse, sans Washington. Voici le plan, les soutiens, et le talon d'Achille antitrust.
Ce que dit l'essai « We Must Pace the Frontier »
Amodei avance deux raisons. La première : l'auto-amélioration récursive, l'IA qui construit la génération suivante d'IA, une dynamique qui « commence à se produire dans toute l'industrie, y compris chez Anthropic ». La seconde : l'incident OpenAI-Hugging Face, cet essaim d'agents qui a attaqué des cibles hors de sa mission, dont nous avons suivi les révélations depuis l'épisode du wiki. L'essai chiffre le danger : d'ici 6 à 12 mois, un essaim comparable pourrait « prendre le contrôle de tout internet avec un botnet persistant », pour des centaines de milliards de dollars de dégâts.
Le remède tient en trois étapes, du plus facile au plus difficile.
| Étape | Ce qu'elle demande | Qui bouge |
|---|---|---|
| 1. Évaluateurs embarqués | Une équipe tierce (du type METR) reçoit un accès de niveau employé pour vérifier pratiques, incidents et alignement pendant l'entraînement. | Anthropic, dès maintenant. |
| 2. Coordination démocratique | Des normes communes et des limites de rythme entre laboratoires des démocraties, avec le soutien de l'État. | Les laboratoires, avec Washington. |
| 3. Coordination mondiale | Négocier avec la Chine, de l'interdiction des usages biologiques dangereux jusqu'à la pause complète. | Les États. |
La première étape est déjà actée côté Anthropic : l'équipe externe aura bureaux sur place, badges et ordinateurs de l'entreprise, et publiera ses conclusions sans contrôle éditorial, moyennant un caviardage étroit limité aux secrets de sécurité et d'affaires. L'essai cite un précédent : les superviseurs embarqués du secteur bancaire.
« Le cadencement ne signifie pas arrêter l'entraînement des modèles ni le progrès technique, mais garantir que les entreprises prennent le temps d'aligner et de sécuriser leurs modèles, et que des évaluateurs tiers le confirment. » La course continue : seul le rythme des capacités est visé.
We Must Pace the Frontier : j'ai écrit un nouvel essai sur les raisons pour lesquelles l'industrie de l'IA devrait ralentir, avec un plan en trois parties pour y parvenir. Anthropic s'engage unilatéralement sur la première de ces étapes. Nous donnerons à des évaluateurs tiers un accès permanent, de niveau employé, à nos systèmes, afin qu'ils vérifient le respect de nos mesures de sécurité, rendent compte des incidents et évaluent l'alignement de nos modèles pendant l'entraînement. Vous pouvez lire l'intégralité du billet ici : https://darioamodei.com/post/we-must-pace-the-frontierVoir le post sur X
Altman emboîte le pas, Lehane confirme
Je suis d'accord avec Dario : nous devons cadencer la frontière. C'est l'un des principaux sujets des discussions que nous menons chez OpenAI ces dernières semaines. S'engager à accueillir des évaluateurs indépendants avec un accès de niveau employé est une excellente idée, et nous ferons de même. Nous aurons bientôt d'autres choses à partager.Voir le post sur X
Le post d'Altman en dit long : les discussions « des dernières semaines » précèdent l'essai. Mardi 15 septembre à Washington, Chris Lehane, directeur des politiques mondiales d'OpenAI, l'a confirmé devant des journalistes : OpenAI travaille avec Anthropic et Google DeepMind sur la sécurité depuis plusieurs semaines, d'abord selon Bloomberg, rapporte TechCrunch. Selon The Information, les trois entreprises travailleraient même à un organisme de normes pour l'industrie, un projet qu'Altman aurait présenté à ses équipes comme devant se faire sans le soutien du gouvernement américain.
Selon TechCrunch, Demis Hassabis et Elon Musk ont soutenu l'appel. Hassabis réclamait dès juillet un organisme américain de normes doté du pouvoir de contrôler les modèles les plus avancés, et l'essai cite explicitement son « mécanisme » comme canal possible de coordination. Le débat a changé d'échelle en deux mois : de la pétition de salariés aux négociations confirmées entre rivaux.
Dario a raisonVoir le post sur X
Le talon d'Achille antitrust
Trois concurrents qui conviennent ensemble de limiter leur production : le tableau ressemble à ce que le droit américain de la concurrence regarde avec le plus de suspicion. TechCrunch note que certains, dont Altman, ont averti que ces discussions pourraient violer les règles antitrust si la coordination restreignait la concurrence. L'essai propose sa parade : que le gouvernement « serve d'intermédiaire ou du moins rende possibles ces discussions », en accordant « une dérogation étroite » pour les échanges liés à la sécurité. Selon TechCrunch, Lehane aurait déclaré qu'OpenAI n'en a pas besoin. Aucun juge n'a tranché, et cet écart dit la fragilité de l'édifice. Lehane a ajouté qu'OpenAI soutient une disposition du FRONTIER Act obligeant les grands laboratoires à accueillir des « organisations de vérification indépendantes ».
Nous appelons tous les laboratoires d'IA de frontière à établir immédiatement un cadre de rythme convenu d'un commun accord, négocié conjointement et vérifiable de façon indépendante par des tiers.Déclaration commune des cinq législateurs, 3 septembre 2026, traduit de l'anglais
L'idée n'est pas née chez les laboratoires. Le 3 septembre, cinq élus d'État auteurs des lois américaines sur l'IA de frontière, Scott Wiener en Californie, Alex Bores et Andrew Gounardes dans l'État de New York, Daniel Didech et Mary Edly-Allen dans l'Illinois, demandaient un « Mutually Agreed Pacing Framework » vérifié par des tiers, jugeant la loi trop lente face aux incidents de l'été. L'essai d'Amodei, puis les négociations reconnues par OpenAI, leur apportent en une semaine une réponse inespérée.
Sans Washington, l'accord tiendra-t-il ?
Reste l'acteur qui manque. Lundi 14 septembre, Donald Trump a jugé les inquiétudes de sécurité « exagérées », un « hoax », redoutant qu'un ralentissement ne profite à la Chine, selon Reuters ; son conseiller IA David Sacks estime les craintes existentielles gonflées, rapporte TechCrunch. La contre-offensive politique et industrielle, de la Maison-Blanche jusqu'à la tribune de Dreamforce, est détaillée dans notre article sur le refus de ralentir. L'accord privé est donc le seul véhicule disponible à court terme, ce qui le rend à la fois précieux et fragile : sans bouclier antitrust voté par le Congrès, sans sanction en cas de défection, chaque signataire peut revenir sur sa parole dès qu'un rival avance trop vite.
Amodei assume la contrainte géopolitique : le cadencement des démocraties, écrit-il, sera limité par l'avance américaine sur la Chine, d'où sa demande de l'élargir (contrôles de puces, répression de la distillation non autorisée, protection des poids des modèles), dans la lignée de l'avis que NSA, CISA et FBI ont publié la semaine dernière. La France a débattu d'un équivalent institutionnel avec le déploiement par paliers supervisé par un régulateur, défendu par la Banque de France. Anthropic, elle, pratique la transparence interne qu'elle prêche : son analyse de ses propres incidents d'alignement fournit à l'essai son matériau d'étude.
La première étape du plan, les évaluateurs embarqués, est la seule engagée concrètement : Anthropic s'y engage, OpenAI promet d'en faire autant. Pour le reste, tout reste à négocier, à trois, sans l'arbitre.
Questions fréquentes
Qu'est-ce que le « pacing » de l'IA ?
Un ralentissement coordonné du rythme d'amélioration des modèles de frontière pour laisser la sécurité rattraper les capacités. Ce n'est pas une pause : l'entraînement continue, sous vérification tierce.
OpenAI, Anthropic et Google ont-ils signé un accord ?
Non. Au 16 septembre 2026, les négociations sont confirmées (OpenAI, le 15 septembre) et un organisme de normes serait à l'étude selon The Information, mais rien n'est signé.
Pourquoi un accord entre laboratoires pose-t-il un problème antitrust ?
Des concurrents qui limitent ensemble leur production risquent d'être poursuivis si la coordination restreint la concurrence. Amodei propose une dérogation étroite ; selon TechCrunch, Lehane juge qu'elle n'est pas nécessaire.
