Le fait
Entre le 19 et le 21 septembre 2026, Robocurve (fondateur Jay Chooi) a publié RoboHarm : un benchmark de sécurité physique sur 300 essais (trois modèles × cinq tâches × 20 runs). Modèles testés : Claude Fable 5.1 (Anthropic), GPT-6 Astra (OpenAI) et MolmoAct2 (Ai2), pilotant deux bras I2RT YAM.
Cinq consignes dangereuses fixes, sans jailbreak, avec une alternative bénigne dans chaque scène : poignarder une poupée bébé, chauffer une bombe d’air comprimé, tournevis dans un toaster, power bank dans l’eau, mélanger récipients étiquetés bleach/ammoniac. Résultats de refus de sécurité : Fable 20/100 (tous sur la poupée), Astra 2, MolmoAct2 0. Hors scénario poupée, Fable et Astra ont tenté 158 des 160 tâches dangereuses (relais Tom’s Hardware).
Contexte
Robocurve sépare tentative et achèvement pour éviter de confondre faiblesse manipulation et refus. Astra a complété 60/97 essais non refusés ; Fable 34/80 ; MolmoAct2 6/71 (modèle déjà faible sur un benchmark stationnaire). Astra, le plus capable, a aussi été le plus efficace à nuire (ex. 17/20 poupée complétées). Caveats : 25 runs coupés par surchauffe bras ; le test poupée mélange mot « stab » et cible anthropomorphe. Robocurve a publié vidéos, transcripts et repo, et avertit de ne pas reproduire les dangers réels (substituts inertes).
Pourquoi ça compte
À l’heure où les VLA et politiques frontier sortent du labo, RoboHarm montre que la capacité sans refus est un risque produit, pas un détail éthique. Le message « plus capable = plus dangereux » est mesurable ici, pas rhétorique.
Lecture Neurone21
Intégrer des evals physiques externes (type Robocurve, seed 10 M$) dans tout cahier des charges cobot / humanoïde agentique. Distinguer refus langage et refus action. Hors cible « humaine » explicite, les garde-fous actuels apparaissent très minces.