Le fait
Anthropic a envoyé ce mois-ci au gouverneur de Californie Gavin Newsom une lettre, révélée par Politico le 27 octobre 2026. Elle répond au décret sur l’IA signé par le gouverneur le mois dernier. Anthropic y propose que le procureur général de l’État puisse demander à un tribunal de suspendre le déploiement, l’usage interne ou le développement d’un modèle présentant un risque catastrophique à court terme.
Contexte
La lettre propose aussi d’installer dans les laboratoires des évaluateurs indépendants qui rendraient compte au procureur général, avec un accès comparable à celui des équipes internes chargées des risques, et des rapports au moins tous les six mois. Ils seraient payés par un fonds géré par l’État, qui noterait les auditeurs et les affecterait au hasard, avec rotation.
Plutôt qu’un bouton d’arrêt de tout le modèle, Anthropic préfère des disjoncteurs ciblés, l’arrêt complet étant réservé aux cas extrêmes. Selon Politico, OpenAI a envoyé une lettre comparable la semaine précédente, en allant moins loin. Le Parlement de Californie reprend ses travaux dans environ un mois.
Pourquoi ça compte
Un laboratoire propose lui-même un mécanisme judiciaire capable d’arrêter ses produits. La Californie, où siègent la plupart des grands laboratoires, sert souvent de modèle aux autres États américains.
Lecture Neurone21
La proposition rappelle des dispositifs européens : l’AI Act prévoit déjà des retraits de modèles à risque systémique. La différence tient à l’évaluateur installé chez le développeur. Reste à voir ce que les élus en retiendront.