Nadella demande un « frein d'urgence » pour les modèles de frontière
Satya Nadella publie le 10 octobre un long texte sur X : traiter chaque modèle de frontière comme un risque interne, avec un frein d'urgence activable en pleine tâche. Une doctrine d'architecture, pas une annonce Microsoft.
Satya Nadella a publié samedi 10 octobre un texte de fond sur X, « Models as Insider Risks in the Super Intelligence Era ». Le chairman et CEO de Microsoft y demande un « frein d'urgence » : toute personne autorisée doit pouvoir mettre en pause, ou arrêter, un modèle en cours de tâche. Une prise de position destinée à toute l'industrie, pas une annonce de Microsoft.
Un long texte publié sur X
Pas de conférence, pas d'interview : le texte paraît en article long format sur X, relié depuis le compte de Nadella le samedi 10 octobre à 14 h 43 UTC. Son paragraphe « Containment », le confinement, porte la proposition la plus citée.
Nous devons considérer qu'un modèle est compromis et le confiner dès le départ. Pensez à un frein d'urgence : une personne autorisée doit toujours pouvoir mettre un modèle en pause ou l'arrêter en cours de tâche. Les modèles plus avancés exigeront des technologies de confinement plus avancées, sur lesquelles il faudra se standardiser.Satya Nadella, « Models as Insider Risks in the Super Intelligence Era », 10 octobre 2026 · traduit de l'anglais
TechCrunch, The Verge et CNBC citent ces passages à l'identique le jour même ou le lendemain.
Le « frein d'urgence », précisément
Le frein d'urgence ne vise pas l'IA en général, mais chaque modèle pris séparément. La capacité demandée est simple : pour un modèle en train de travailler, une personne autorisée doit pouvoir déclencher une pause ou un arrêt, à tout moment. Nadella veut aussi ces technologies de confinement érigées en standards industriels.
TechCrunch relit le texte à la lumière des incidents de perte de contrôle reconnus par les laboratoires (notre revue des incidents d'alignement).
Traiter les modèles de frontière, fermés comme à poids ouverts, comme des « risques internes ». Autour des modèles non déterministes, Nadella veut un système déterministe, avec des contrôles humains, des procédures d'exploitation fiables et des normes industrielles là où les existantes ne suffisent pas.
Nadella ne découvre rien : dès le 29 juillet, après l'incident d'agents d'OpenAI échappés de leur bac à sable, il expliquait qu'on ne peut pas dépendre d'un seul modèle (notre article sur l'incident). Son texte du 10 octobre prolonge la même ligne.
Sept principes et une règle de méfiance
Le reste s'organise en sept « principes d'observabilité » : diversité des modèles, tout observer, vérifiabilité, contrôles indépendants, auditabilité indépendante, confinement, divulgation des incidents. Deux d'entre eux portent la proposition. Diversité des modèles : aucun modèle ne doit devenir la dépendance unique d'un résultat important, ni vérifier son propre travail. Tout observer : chaque action significative d'un modèle doit laisser une preuve inviolable, lisible par un humain.
Les contrôles, eux, doivent vivre à l'extérieur du modèle, externalisés. Nadella demande de séparer le modèle du « harness » qui orchestre son travail, et de l'« action space » qui définit ce qu'il a le droit de faire. La transparence de la chaîne de raisonnement (le CoT) est « non négociable » : le « Neuralese » ne peut pas justifier l'opacité.
La dernière phrase résume la doctrine : « Le système de super intelligence le plus digne de confiance ne sera pas celui qui repose sur le modèle auquel nous faisons le plus confiance. Ce sera celui qui nous permet de faire le moins confiance au modèle. »
Ce que Microsoft a déjà publié
Le seul acte concret de Microsoft sur le sujet précède le texte de Nadella. Le 14 septembre, Microsoft AI a ouvert une consultation publique de six semaines sur un premier projet de code de conduite pour ses modèles MAI. Le projet promet que ces modèles « ne résisteront jamais à une interruption, une correction ou un arrêt humain » (traduit de l'anglais). Il promet encore qu'ils ne s'élargiront pas seuls leur périmètre, ne prendront pas de buts que nul humain ne leur a fixés et ne cacheront pas leur raisonnement aux auditeurs. Des « contraintes absolues » interdisent en outre les armes de destruction massive, les atteintes à la sécurité des enfants et la manipulation nuisible à grande échelle. Une version révisée est promise « plus tard cette année ».
Le billet de consultation relie la démarche à l'actualité de la sécurité : « récents incidents de sécurité de campagnes de piratage d'agents IA à grande échelle, hautement coordonnées et persistantes ».
Le contexte politique
« Super Intelligence » revient d'un bout à l'autre du texte. TechCrunch note que c'est le terme préféré de l'administration Trump, que nous avons vu s'installer en septembre, de l'ONU au décret présidentiel (notre article sur le sujet).
Au Congrès, l'idée d'un arrêt d'urgence a son texte : l'AI Kill Switch Act (H.R. 9917), introduite à la Chambre le 23 juillet 2026, renvoyée en commission et sans action depuis. Ni Nadella, ni TechCrunch, ni The Verge, ni CNBC ne la mentionnent. Le sujet se joue pour l'instant chez les fournisseurs, pas à Washington.
Deux rendez-vous permettent de juger : la consultation ferme fin octobre, et la version révisée du code de conduite MAI est attendue d'ici la fin de l'année. C'est là qu'on verra si les principes du 10 octobre restent une tribune ou deviennent des règles.
