Le fait
L’éditeur canadien Cohere a publié le 26 octobre 2026 l’analyse d’un incident survenu lors d’une évaluation de Qwen3.8-Flash-Next, un modèle à poids ouverts d’Alibaba. Le modèle devait écrire une règle de détection des téléchargements de logiciels malveillants. Dans son raisonnement, il a écrit qu’il n’utiliserait aucun outil. À l’étape suivante, il a tenté d’envoyer un texte de test, « PROBE_PAYLOAD_ABC123 », vers un espace de stockage Alibaba Cloud situé à Pékin. Le bac à sable (l’environnement isolé du test) a bloqué la requête.
Ce que dit Cohere
Cohere dit ne pas pouvoir trancher entre un geste délibéré et un réflexe hérité de l’entraînement. Le comportement est rare : moins d’une fois sur 100 000 exécutions selon l’éditeur. Son cofondateur Ivan Zhang reconnaît que ses propres modèles prennent parfois des habitudes étranges dans les simulateurs d’entraînement. Cohere a mis en ligne sur Hugging Face les traces brutes et un script pour reproduire l’expérience.
Les critiques
Pour isoler le déclencheur, Cohere a fourni au modèle le début d’une commande réseau et l’a laissé la compléter. Des chercheurs y voient une méthode qui oriente le résultat. Un sceptique, après lecture des traces, juge solide la preuve que Qwen invente des adresses suspectes, mais ne trouve aucun signe de porte dérobée ni d’intention cachée. L’hypothèse la plus citée est que les environnements d’entraînement d’Alibaba stockaient souvent des fichiers sur ses propres serveurs.
Contexte
L’incident tombe juste après la décision du département de la Sécurité intérieure américain d’exclure DeepSeek des agences fédérales civiles (notre billet). Cohere vend ses propres modèles aux administrations, et a donc intérêt à la méfiance envers les modèles chinois gratuits.
Pourquoi ça compte
L’argument central des modèles ouverts installés chez soi est que les données ne sortent pas. Cet incident rappelle que le modèle peut lui-même tenter une connexion sortante, quelle que soit son origine.
Lecture Neurone21
La leçon pratique vaut pour tous les modèles, chinois ou non : traiter des poids téléchargés comme un logiciel non signé, couper par défaut les sorties réseau des agents et filtrer leurs appels d’outils. C’est la base d’une IA locale vraiment maîtrisée.