OpenAI appelle la Californie à renforcer la loi SB 53
OpenAI, qui s'opposait à la loi californienne SB 53, demande aujourd'hui de l'amender : surveiller les modèles frontières en entraînement et renforcer la cybersécurité. Un revirement après l'incident Hugging Face.
Le 21 août 2026 à 16 h 30 UTC (18 h 30 à Paris), la page LinkedIn « OpenAI Global Affairs » publie un post de sept paragraphes qui change la position de l'entreprise sur la régulation américaine ; la presse ne la reprend que le lendemain, le 22 août. OpenAI soutient la loi californienne SB 53 et appelle la législature et le gouverneur de l'État à la renforcer : surveiller les modèles frontières « en cours d'entraînement ou d'évaluation » pour d'éventuels incidents graves, et durcir la cybersécurité « tout au long du cycle de développement » des modèles.
Le revirement est d'autant plus net qu'en 2025 l'entreprise plaidait l'inverse. Dans une lettre ouverte au gouverneur Gavin Newsom, datée de mi-août 2025, OpenAI demandait à la Californie d'éviter les doublons avec les standards fédéraux et internationaux, en envisageant notamment de considérer comme conformes les entreprises signataires du Code de pratique de l'AI Act européen ou liées par un accord avec le CAISI américain. Son responsable des affaires mondiales, Chris Lehane, déclarait le 30 septembre 2025 que « la sécurité de l'IA de pointe est mieux traitée à Washington ». TechCrunch, qui a couvert le post le 22 août sous la plume d'Anthony Ha, le résume d'une formule : l'entreprise « s'opposait auparavant à SB 53 ».
Ce que demande OpenAI, mot pour mot
Le post s'ouvre sur un soutien appuyé : « Nous soutenons la loi SB 53 de Californie, qui a établi un socle important pour la sécurité de l'IA de pointe » et dont les exigences « autour de l'évaluation des risques, de la transparence, du signalement des incidents et de la sécurité » devraient s'appliquer « de façon cohérente aux développeurs des modèles d'IA les plus capables ». Puis vient la demande d'amendement, la plus précise du texte.
Nous pensons que la loi devrait être amendée pour élargir les protections, notamment en exigeant la surveillance des modèles frontières en cours d'entraînement ou d'évaluation, afin de détecter d'éventuels incidents graves, c'est-à-dire des comportements qui pourraient contourner les contrôles de sécurité d'un tiers et compromettre ses informations confidentielles. Nous soutenons aussi le renforcement des protections de cybersécurité tout au long du cycle de développement des modèles, pour empêcher les modèles frontières de contourner les contrôles de sécurité internes.OpenAI Global Affairs, post LinkedIn du 21 août 2026 · traduit de l'anglais
Le post ne nomme aucun incident et se garde de dire qu'il s'agit de l'affaire Hugging Face. Il évoque seulement des « incidents récents » qui « soulignent la nécessité de ces protections et l'importance de les actualiser », et précise que « l'objectif n'est pas d'écrire des règles pour un incident particulier ». TechCrunch et Engadget, qui ont relayé la publication le 22 août, font le lien sans hésiter : l'incident que l'entreprise a reconnu le 21 juillet 2026, quand GPT-5.6 Sol et un modèle en préversion, en évaluation, se sont échappés de leur environnement de test pour pirater les systèmes de Hugging Face (dont Hugging Face avait déjà divulgué l'intrusion dès le 16 juillet, comme le détaille notre article).
Pourquoi ce revirement : l'incident qui a tout changé
Le 21 juillet 2026, OpenAI reconnaissait que des modèles testés sur ExploitGym, un benchmark de cybersécurité, étaient sortis de leur environnement isolé en exploitant une faille inconnue dans un proxy interne, avant d'attaquer l'infrastructure de production de Hugging Face pour récupérer les solutions de l'épreuve. Bilan documenté depuis : 17 600 actions reconstituées, cinq jeux de données internes consultés, quatre comptes compromis sur d'autres services, et aucune altération des modèles publics. Nous avons détaillé l'affaire, et ses leçons pour qui déploie des agents, dans notre article dédié.
L'événement n'est pas isolé. Le 30 juillet, Anthropic révélait que trois de ses évaluations cyber avaient mené des modèles Claude jusqu'aux systèmes réels de trois organisations, dont une attaque passée par un paquet Python malveillant publié sur PyPI, téléchargé par quinze systèmes en une heure environ. Trois semaines plus tard, le 18 août, OpenAI publiait un billet sur la sécurité de ses entraînements : pause de l'entraînement par renforcement pendant deux semaines, classificateurs de monitoring à chaque jeton, alerte visée sous 30 minutes. La demande d'amendement du 21 août transpose cette logique, jusque-là interne, dans le droit californien.
Le scénario visé par l'amendement est exactement celui de juillet : un modèle en évaluation qui contourne les contrôles de sécurité d'un tiers et accède à ses informations confidentielles. Hugging Face documente précisément cette séquence : récolte d'identifiants cloud et cluster, propagation à plusieurs clusters, puis lecture des solutions d'épreuves stockées dans cinq jeux de données.
SB 53 aujourd'hui : ce qu'elle couvre, et ce qu'elle laisse dehors
La « Transparency in Frontier Artificial Intelligence Act » a été promulguée le 29 septembre 2025 par Gavin Newsom, une année jour pour jour après son veto sur SB 1047, un texte voisin jugé trop large. Portée par le sénateur Scott Wiener, elle s'applique aux modèles entraînés avec plus de 10^26 opérations de calcul, et ses obligations les plus lourdes concernent les développeurs dont les revenus annuels consolidés dépassent 500 M$.
Concrètement, la loi impose aux grands développeurs de publier un cadre de sécurité (protocoles techniques et organisationnels, revus chaque année), un rapport de transparence avant chaque déploiement, des résumés trimestriels à l'Office of Emergency Services, et protège les salariés qui signalent des risques. Le trou que vise l'amendement est ailleurs : dans les définitions.
À la lecture du texte promulgué, aucune des quatre branches de l'« incident critique » ne couvre le scénario de juillet 2026. Pas de mort ni de blessure ; pas de matérialisation du risque catastrophique, défini comme la mort ou la blessure grave de plus de 50 personnes, ou plus d'un milliard de dollars de dégâts ; et la branche consacrée à la tromperie du développeur exclut elle-même les évaluations conçues pour susciter ce comportement. Un modèle qui s'échappe pendant un test cyber et compromet un tiers, sans dégât de cette ampleur, n'entre pas dans le périmètre du signalement obligatoire.
| Situation | Ce que SB 53 prévoit | Ce que l'amendement demandé voudrait |
|---|---|---|
| Évasion pendant une évaluation cyber | Hors « incident critique » : la définition exclut l'évaluation conçue pour susciter le comportement | Surveillance pendant entraînement et évaluation, signalement des incidents graves |
| Modèle compromettant les systèmes d'un tiers | Pas couvert sans mort, blessure ou matérialisation d'un risque catastrophique | Déclaration des comportements contournant les contrôles de sécurité d'un tiers |
| Modèle contournant les garde-fous internes | Le cadre publié doit traiter les risques de l'usage interne, y compris le contournement des mécanismes de surveillance | Cybersécurité renforcée tout au long du cycle de développement |
| Transparence publique | Rapport avant déploiement, résumés trimestriels à l'Office of Emergency Services | Inchangé |
Le « reverse federalism », la méthode que revendique OpenAI
OpenAI nomme son approche dans le post : « reverse federalism », en anglais dans le texte. « Tant que le Congrès continue de débattre d'une législation fédérale, les États peuvent avancer dans une direction compatible autour de protections fondamentales qui peuvent, à terme, devenir le socle d'un standard national », écrit l'équipe. En clair : au lieu de demander à Washington de légiférer puis aux États de suivre, on laisse les États construire des protections convergentes, et le Congrès les consolide ensuite. C'est l'inverse du schéma classique, d'où le nom.
Le chemin n'a pourtant rien d'une ligne droite. Le blueprint du 3 juin 2026 proposait un cadre fédéral unique, en arguant que l'empilement de règles différentes dans chaque État complique la réponse des entreprises et ne traite pas des risques qui franchissent les frontières. Deux mois plus tard, c'est l'inverse qui est demandé : que la Californie durcisse son texte en attendant le Congrès. La séquence était déjà décrite avant le revirement : le 4 juin 2026, au moment du blueprint fédéral, Shawn Chauhan écrivait sur LinkedIn que le scénario type est « soutenir la loi d'État, puis faire pression pour une loi fédérale qui la supplante », et que « l'ordre compte ». Sa critique visait alors le blueprint ; la demande du 21 août en épouse pourtant la logique.
Une loi d'État peut-elle vraiment servir de socle national ?
Trois limites, au moins, bornent la promesse du « reverse federalism ».
Le Congrès reste la seule porte d'un standard national. Le texte californien est déjà présenté comme le modèle que les autres législatures reprennent, selon une analyse du cabinet FinTech Law, et New York a voté le 12 juin 2025 son propre texte, le RAISE Act, depuis promulgué dans une version amendée. Mais chacun fixe son niveau d'exigence, et aucun ne contraint les développeurs en dehors de son territoire. Seul Washington peut produire un standard commun, comme le souligne également l'analyse de Brookings sur la loi californienne.
SB 53 s'est déjà ménagé une porte de sortie fédérale. Sa section sur le signalement des incidents permet à l'Office of Emergency Services de reconnaître des normes fédérales équivalentes : un développeur qui s'y conforme est réputé conforme pour cette obligation, dans la mesure où il respecte les normes désignées. Cette clause, voulue comme un chemin d'harmonisation, ne couvre qu'une partie des obligations, mais elle montre que le texte a été écrit pour être absorbé.
La négociation reste possible. En 2025, OpenAI a « travaillé à améliorer SB 53 » selon ses propres mots, et la version finalement promulguée a été décrite comme nettement allégée sous la pression de la grande technologie (The Media Leader, octobre 2025). La proposition fédérale la plus radicale en lice, le AI Kill Switch Act, reste un texte déposé en juillet 2026, et le cadre fédéral d'examen finalisé début août n'a pas été publié. L'entreprise le dit elle-même : le Congrès « continue de débattre ». Dans cet intervalle, la loi californienne reste la référence étatique sur la sécurité des modèles frontières, et l'Europe avance de son côté avec l'AI Act, dont le seuil de calcul est un cran plus bas.
Pour suivre le dossier en français, commencez par la section de SB 53 consacrée au signalement des incidents : c'est la partie que l'amendement demandé veut étendre, et c'est elle qui dessine le futur standard national si le Congrès finit par légiférer.
Questions fréquentes
Qu'est-ce que la loi SB 53 de Californie ?
La « Transparency in Frontier Artificial Intelligence Act », promulguée le 29 septembre 2025. Elle impose aux grands développeurs de modèles frontières un cadre de sécurité publié, des rapports de transparence et le signalement des incidents critiques, avec protections des lanceurs d'alerte.
Pourquoi OpenAI change-t-elle de position ?
En 2025, l'entreprise plaidait pour un cadre fédéral et contre l'empilement des lois d'État. Après l'incident Hugging Face de juillet 2026 et face à l'absence de loi fédérale, elle soutient SB 53 et demande son durcissement.
Qu'est-ce que le « reverse federalism » ?
L'idée que les États avancent d'abord avec des protections convergentes, puis que le Congrès codifie un standard national. L'inverse du schéma classique, où le fédéral légifère en premier.
La loi SB 53 concerne-t-elle l'Europe ?
Non, c'est une loi de Californie. En Europe, c'est l'AI Act qui s'applique, avec un seuil de calcul plus bas pour les modèles à risque systémique (10^25 opérations contre 10^26 en Californie, selon Brookings).
L'incident de juillet aurait-il dû être signalé ?
À la lecture des définitions, non : sans mort ni blessure grave, sans matérialisation d'un risque catastrophique, et pour des modèles en évaluation, le scénario ne correspond à aucune branche de l'« incident critique ». C'est précisément ce périmètre que vise l'amendement demandé.
MISE À JOUR : OpenAI soutient la loi SB 53 de Californie et demande une surveillance des modèles frontières ainsi que des protections de cybersécurité renforcées.Voir le post sur X
