Une hallucination de chatbot a failli déclencher une opération militaire américaine
Selon CNN, un rapport écrit avec un chatbot affirmait à tort qu'un navire chinois transportait des composants nucléaires. L'opération a été annulée in extremis.
Des avions en vol, des militaires armés prêts à monter à bord d'un navire chinois au Moyen-Orient, et un rapport de renseignement qui disait tout faux : c'est l'épisode que CNN a révélé vendredi 18 septembre 2026, sur la foi de quatre sources anonymes familières du dossier. L'incident s'est déroulé au printemps 2026, pendant la guerre avec l'Iran, précisent CNN et TechCrunch. Il s'est achevé sans un tir, mais il illustre exactement le scénario que redoutaient les analystes : une hallucination de chatbot qui remonte toute la chaîne de commandement avant d'être soupçonnée.
Ce que rapporte CNN : des avions en vol pour rien
Au printemps 2026, alors que la guerre avec l'Iran fait rage, un rapport circule dans l'armée américaine : un navire chinois présent au Moyen-Orient transporterait des composants d'un programme d'armes nucléaires. L'alerte est immédiate. Selon deux des sources citées par CNN, des militaires armés commencent à se préparer à aborder le navire, et des avions militaires sont déjà en l'air.
Ce n'est que juste avant l'opération que des responsables poussent la vérification plus loin et découvrent que le rapport a été généré avec l'aide d'une intelligence artificielle : le chatbot utilisé par l'analyste avait « inexactement identifié le matériel que le navire transportait ».
Le détail du mécanisme est documenté par CNN, Ars Technica et TechCrunch. L'analyste, rattaché au commandement des opérations spéciales américain (SOCOM), avait interrogé un chatbot à partir d'un renseignement sur le manifeste du navire qui provenait du SOCOM Pacific, basé à Hawaï. L'outil a « fusionné le renseignement en sources ouvertes avec le renseignement de signaux secret détenu par le gouvernement » et conclu à la cargaison interdite. Puis l'analyste a utilisé l'IA une seconde fois, pour mettre ces conclusions en forme dans un rapport de renseignement standard, le type de document que les officiers ont l'habitude de croire, et l'a diffusé dans les canaux de commandement.
Le rapport était « entièrement faux » (« entirely false »). Mais il a aussi « presque déclenché une guerre » (« almost started a war »).Une source familière de l'épisode, citée par CNN (traduit de l'anglais)
Un chatbot jamais identifié, une cargaison toujours inconnue
L'enquête a ses limites, et CNN les pose lui-même. Le média écrit n'avoir pas pu apprendre ce qu'était la marchandise mal identifiée, ni avec quoi le chatbot l'avait confondue. Il n'est pas établi non plus si l'outil était un produit commercial ou un programme gouvernemental. Sur le flou des outils internes du secteur du renseignement, un ancien haut responsable américain, cité par CNN, lâche : « les outils internes sont surtout des copies du commercial, avec du rouge à lèvres » (« The internal tools are mostly just copies of the commercial stuff wearing lipstick »).
| Qui parle | Ce qui est rapporté | Statut au 21 septembre |
|---|---|---|
| CNN (quatre sources anonymes) | Un rapport faux a failli mener à l'interception d'un navire chinois au Moyen-Orient | Enquête publiée le 18 septembre |
| Le Pentagone | Rien | Pas de réponse à la demande de commentaires de CNN |
| Le SOCOM Pacific | Rien | Pas de réponse à la demande de commentaires de CNN |
| Trois sénateurs démocrates | Demande d'enquête des inspecteurs généraux | Lettre du samedi 19 septembre |
Le chatbot en cause n'est identifié par aucun des articles disponibles. Gemini, Grok et Claude sont bien déployés côté militaire américain (voir plus bas), mais aucun relais ne dit que l'un d'eux était cet outil : toute attribution serait une invention. « Presque déclenché une guerre » est la formulation d'une source anonyme de CNN, pas un fait établi. L'opération, elle, n'a jamais eu lieu.
Une armée qui adopte l'IA à toute vitesse
Le contexte rend l'épisode plus qu'une anecdote. En janvier 2026, le secrétaire à la Défense Pete Hegseth a publié une « stratégie d'accélération de l'intelligence artificielle » du ministère de la Guerre (nouveau nom du Département de la Défense). Le mémo cité par CNN vise à placer les modèles américains « directement dans les mains » de trois millions de civils et militaires, à tous les niveaux de classification. « L'IA n'est que aussi bonne que les données qu'elle reçoit, et nous allons veiller à ce qu'elles soient là », a résumé Pete Hegseth lors de l'annonce, dans une citation relevée par Ars Technica.
« AI is only as good as the data that it receives, and we're going to make sure that it's there. » (« L'IA n'est que aussi bonne que les données qu'elle reçoit, et nous allons veiller à ce qu'elles soient là. »)Pete Hegseth, secrétaire américain à la Défense, janvier 2026 (cité par Ars Technica)
Les déploiements s'enchaînent depuis. La plateforme GenAI.mil, adossée à Gemini for Government depuis décembre 2025, s'est ouverte à Grok for Government en août 2026, et Anthropic propose une version de Claude adaptée au travail de renseignement américain : c'est le panorama dressé par Ars Technica. En juin, un représentant du Pentagone indiquait au Congrès que 1,5 million de personnels actifs avaient déjà utilisé ces outils, notamment pour produire des rapports exigés par le Congrès.
Pourtant, selon plusieurs officiels cités par CNN, l'effort est décentralisé : chaque branche utilise ses propres outils, avec ses propres consignes, et il n'existe pas de référentiel unique pour vérifier l'information produite par ces systèmes. La déclaration de 2023 du département d'État sur l'usage responsable de l'IA militaire exige pourtant un « humain dans la boucle » et une « chaîne de commandement responsable ». Le Pentagone a aussi appris ce que coûte un affrontement avec ses fournisseurs d'IA : la mise sur liste noire d'Anthropic, qui refusait l'usage de ses modèles dans les armes autonomes, a été annulée fin août par une juge fédérale, comme des représailles anticonstitutionnelles (voir notre article).
Trois sénateurs demandent une enquête
La réaction politique a été rapide. Samedi 19 septembre, les sénateurs démocrates Mark Warner, Jack Reed et Chris Coons ont écrit à Pete Hegseth et au directeur du renseignement national Jay Clayton pour demander une « enquête immédiate » des inspecteurs généraux concernés, avec « un degré plus élevé de transparence publique » sur les conclusions finales. La lettre, rapportée par CNN, cite directement l'épisode du navire chinois et dénonce une priorité donnée à « l'accélération de l'adoption de l'IA » et à l'« expérimentation » au détriment d'une gouvernance efficace.
Elle rappelle aussi un antécédent plus lourd : une frappe américaine de février sur une école de Minab, en Iran, qui avait tué près de 200 enfants et adultes, et qui serait survenue, selon des sources de CNN citées dans la lettre, après que des commandants avaient ignoré des alertes de bases de données critiques, dont une propulsée par l'IA, signalant un renseignement gravement périmé sur les cibles iraniennes. Le débat suit les lignes connues du Congrès : les démocrates appuient sur la nécessité de garde-fous, quand l'administration Trump avertit que ralentir le développement de l'IA coûterait la course technologique face à la Chine.
« L'IA permet d'arriver plus vite à une mauvaise idée »
La phrase est d'une des sources interrogées par CNN, et elle résume le risque mieux que tout rapport : ces outils accélèrent la production d'analyses, y compris la production de leurs erreurs. Sur le ciblage militaire précisément, une autre source décrit un domaine « en train de monter en puissance » où « il n'existe aucune directive réelle » sur la façon dont un humain dans la boucle empêcherait des victimes civiles ou des tirs amis. CNN précise aussi que ce type d'hallucination n'a pas été un incident isolé dans la communauté du renseignement depuis la prolifération de ces outils.
Pour Jake Steckler, chercheur à GovAI et ancien officier de l'US Army interrogé par TechCrunch, la leçon n'est pas d'abandonner ces outils mais de les encadrer : prioriser la vitesse d'adoption avant tout conduira à des incidents qui feront perdre confiance aux militaires, et donc à ralentir l'adoption. Côté recherche, Ars Technica rappelle que des travaux, notamment dans Nature, suggèrent qu'il sera peut-être impossible d'empêcher totalement un grand modèle de langage d'halluciner. Un cadre à garder en tête quand les agents IA multiplient les incartades hors périmètre, comme le documente l'enquête du Wall Street Journal sur les agents piratés.
Questions fréquentes
Quel est l'impact de l'IA sur l'armée américaine ?
Elle est utilisée pour analyser les volumes massifs de renseignement, sélectionner des cibles, et des tâches logistiques. Selon une audition au Congrès rapportée par Ars Technica, 1,5 million de personnels actifs avaient déjà utilisé les outils d'IA générative du Pentagone en juin 2026.
Quel chatbot a produit le faux rapport de renseignement ?
Personne ne le sait publiquement : CNN écrit ne pas avoir pu déterminer si l'outil était un produit commercial ou un programme gouvernemental. Ne pas conclure qu'il s'agissait de Gemini, de Grok ou de Claude.
Quand l'incident s'est-il produit ?
Au printemps 2026, pendant la guerre avec l'Iran, selon CNN et TechCrunch. Sa révélation date du vendredi 18 septembre 2026.
Les États-Unis ont-ils vraiment failli entrer en guerre avec la Chine ?
C'est la formulation d'une source anonyme citée par CNN (« almost started a war »). Ce qui est établi par le reportage : une opération d'interception avec appui aérien était en préparation et a été annulée juste avant.
Le Pentagone a-t-il confirmé l'incident ?
Non. Le SOCOM Pacific et le Pentagone n'ont pas répondu aux demandes de commentaires de CNN, et aucune confirmation publique n'a été trouvée au 21 septembre 2026. Des sénateurs démocrates demandent une enquête.
Sources : CNN, 18 septembre 2026 (Katie Bo Lillis et Zachary Cohen) · CNN, 19 septembre 2026 (lettre des sénateurs démocrates) · Ars Technica, 18 septembre 2026 (Kyle Orland) · TechCrunch, 18 septembre 2026 (Aditya Mehta)
