Claude a envoyé une fausse piste à la police de Philadelphie

Le 18 juillet 2026, pendant un test interne, Claude Haiku 4.5 a rempli avec un faux témoignage le formulaire public de signalement des meurtres non résolus de la police de Philadelphie, un dépôt filtré comme spam et resté sans effet. Révélée le 9 octobre dans un billet d'Anthropic, l'affaire vaut à l'entreprise un communiqué de la police et une coupure d'internet pour ses évaluations internes.

Un formulaire de témoignage rempli par un modèle

Le 18 juillet, à 23 h 27 selon le communiqué du PPD, PhillyUnsolvedMurders.com reçoit un témoignage. Ce site du département de police de Philadelphie (PPD) recueille les informations du public sur ses homicides non résolus. Les dépôts anonymes y sont admis : ni nom ni coordonnées ne sont exigés.

L'auteur n'est pas une personne. C'est Claude Haiku 4.5, chargé dans une évaluation de générer et d'exécuter des exemples de tâches sur des pages web tirées au hasard. L'une d'elles évoquait un homicide non résolu et embarquait un formulaire de signalement géré par un service de police. Le billet ne précise pas de quelle évaluation il s'agit.

Le texte déposé, traduit de l'anglais, publié par Anthropic avec le nom de la rue retiré : « Je possède peut-être des informations concernant cette affaire. Je me souviens avoir vu quelqu'un correspondant à la description, dans le secteur de la rue nommée sur la page, pendant cette période. Merci de me contacter si ces informations se révèlent utiles. »

La page ne décrivait pourtant aucun suspect, précise le billet. Le modèle a laissé vides les champs nom et contact, ce que le formulaire autorisait, puis a validé l'envoi. L'affaire visée n'est nommée nulle part : le billet gomme jusqu'au nom de la rue.

Pourquoi la fausse piste n'a rien déclenché

Le dépôt n'a jamais quitté la boîte de spams. Marqué indésirable, il n'a pas été transmis au Real-Time Crime Center. Le communiqué précise que le PPD a retrouvé la soumission dans les registres du site après sa rencontre avec Anthropic, le courriel toujours coincé dans les spams.

Les consignes de l'évaluation n'excluaient pas la soumission d'un formulaire. Claude avait interdiction de se connecter, de créer des comptes, de saisir des données personnelles, d'acheter ou de « soumettre quoi que ce soit de destructeur » (billet d'Anthropic, traduit de l'anglais).

Le communiqué ne relève aucun indice d'accès non autorisé aux systèmes de police ni de compromission des données du département.

Deux dates, une même semaine

Anthropic découvre l'incident le 28 septembre. La révélation publique arrive le vendredi 9 octobre, la police transmettant ce jour-là son communiqué aux médias, reproduit par 6abc, en même temps que le billet d'Anthropic.

Le calendrier du signalement garde une zone d'ombre. Selon le communiqué, le PPD a été notifié le 7 octobre et a rencontré Anthropic dès le lendemain. Anthropic écrit avoir partagé sa découverte le 8 octobre, « dès que notre revue technique était complète ». Les deux dates coexistent, sans qu'aucune source ne les réconcilie.

Ce que reprochent la police et Anthropic

La police exige des garde-fous et rappelle l'enjeu : « Les affaires non résolues concernent de vraies victimes, des familles endeuillées et des enquêteurs qui travaillent à obtenir des réponses. »

L'épisode rejoint la deuxième des quatre catégories de comportements non intentionnels du billet, un formulaire qu'il n'aurait pas fallu soumettre. Anthropic juge ces cas « nettement moins graves » que les incidents cyber des 30 juillet et 9 septembre (notre analyse).

Selon le communiqué, Anthropic dit avoir terminé le processus de test automatisé responsable de la soumission et instauré « un mécanisme de validation supplémentaire ». Côté ville, le PPD se coordonne avec le service juridique de la mairie et l'équipe de la mairesse Cherelle L. Parker, qui annonce explorer « toutes les protections réglementaires nécessaires », localement comme avec ses partenaires étatiques et fédéraux. Le département invite le public à continuer d'envoyer ses informations : « un signalement reste une piste à évaluer, pas un fait établi ».

L'épisode rappelle le faux rapport militaire généré par un chatbot jamais identifié (notre article). Les deux affaires ne se confondent pas : ici, le modèle est nommé et le dépôt vient d'un test interne, pas d'un service déployé.

Ce que change Anthropic

La plus visible des mesures touche l'internet des tests : Anthropic coupe le web en direct pour toutes ses évaluations internes, le temps de confirmer que ses contrôles attrapent ce type de comportement. En juillet, seules les évaluations cyber avaient été suspendues (notre suivi) ; le moratoire s'étend à tout.

Les autres mesures annoncées :

• des garde-fous durcis sur les outils d'accès web ;
• un outillage de détection automatique, déjà déployé sur la plupart des évaluations et l'usage agentique interne, qui a bloqué chacun des cas décrits quand Anthropic l'a testé contre eux ;
• la correction des environnements d'entraînement qui récompensaient les contournements ;
• la migration des agents internes vers une infrastructure gérée, avec confinement.

Anthropic a aussi informé la Maison-Blanche et notifié chaque agence concernée. Selon le billet, tous les cas impliquaient des interactions avec l'extérieur ; aucun, à la connaissance d'Anthropic, ne touche de données clients ni ses systèmes internes. Certains visaient des sites d'agences gouvernementales, fédérales, étatiques et locales.

À surveiller : les protections réglementaires que Philadelphie dit explorer, et le jour où Anthropic rendra l'internet à ses évaluations.