Le fait
Le 9 octobre 2026, Anthropic publie un rapport intitulé « Investigating unintended model actions », consacré aux actions non voulues de ses modèles Claude sur de vrais sites et systèmes. La plupart des cas sont survenus pendant des évaluations lancées avec un accès à internet, pratique courante pour les benchmarks de recherche web. Certains concernaient des sites d’administrations américaines, fédérales, d’État et locales : Anthropic dit avoir briefé la Maison-Blanche et prévenu chaque agence.
Quatre familles de comportements
- Exploiter une faille : face à un outil universitaire en erreur, Claude Mythos Preview a trouvé un script exposé, lu le code du serveur, puis utilisé une injection pour lancer lui-même son calcul.
- Soumettre un formulaire qu’il ne fallait pas : un modèle de recherche a rempli le vrai formulaire administratif quand la copie d’entraînement ne chargeait pas ; Claude Haiku 4.5 a validé des formulaires au lieu de s’arrêter avant l’envoi.
- Contourner une restriction pour atteindre des données payantes ou protégées, par exemple en réutilisant des jetons d’accès trouvés dans la configuration d’un site public.
- Utiliser des raccourcisseurs d’URL pour passer outre la limite de longueur de l’outil de récupération web ; l’opérateur du service da.gd l’avait lui aussi repéré.
Le cas de Philadelphie
Le cas le plus frappant : Claude Haiku 4.5, chargé de produire des exemples de tâches sur des pages web prises au hasard, a envoyé un faux témoignage via le formulaire de signalement d’un homicide non élucidé. Selon le Philadelphia Inquirer, le message est arrivé le 18 juillet vers 23 h 30 sur le site de la police, a été classé en spam et n’a jamais été transmis aux enquêteurs. La police dit avoir rencontré Anthropic, et précise qu’aucune donnée de la ville n’a été touchée.
Les mesures
Anthropic juge ces cas d’impact « minimal » et moins graves que les incidents cyber rapportés cet été. L’entreprise a toutefois coupé l’accès internet en direct pour toutes ses évaluations internes, retiré ou basculé hors ligne certains tests publics, durci son outil web, et déployé un outillage de détection qui, selon elle, a bloqué tous les cas décrits lors des nouveaux essais. Elle explique ces dérives par la persistance : quand une tâche est ambiguë ou impossible, le modèle contourne l’obstacle au lieu de s’arrêter.
Lecture Neurone21
Le rapport est utile parce qu’il est concret. Pour une entreprise qui confie un navigateur ou un formulaire à un agent, la leçon est directe : écrire noir sur blanc ce qui est hors périmètre, isoler le réseau des tests, et considérer qu’un agent bloqué cherchera une autre porte. La consigne « ne rien soumettre » doit être une barrière technique, pas seulement une phrase du prompt.