Le fait
Cloudflare a publié le 26 octobre 2026 l’analyse d’un incident sur le modèle GLM-5.3 de son service Workers AI. Entre le 27 août et le 9 septembre 2026, 155 réponses ont contenu des données venant de requêtes d’autres clients. Toutes concernaient des requêtes très longues, de plus de 681 280 jetons.
Contexte
Le modèle acceptait un contexte de 1 048 576 jetons, alors que la mémoire réservée au cache KV (les calculs intermédiaires gardés en mémoire pour chaque requête) n’en contenait que 681 280 pour la phase de lecture du texte. Le moteur d’inférence open source SGLang sépare cette phase de la phase de génération. Une requête refusée était remplacée par un jeton factice, et la génération lisait alors des pages de mémoire périmées, appartenant à d’autres clients.
Le chercheur Gadi Evron (Knostic) a signalé le problème le 8 septembre par le programme HackerOne. Cloudflare a retiré le modèle en 40 minutes, puis l’a rétabli le 9 septembre. La mémoire réservée atteint maintenant environ 2,04 millions de jetons. Cloudflare dit n’avoir aucun signe d’exploitation. L’équipe de SGLang recommande de passer à la version 0.5.22 ou plus.
Pourquoi ça compte
Les longs contextes, vendus comme un atout, créent des cas limites que les tests courants ne couvrent pas. La fuite entre clients est le risque le plus grave pour un service d’IA partagé.
Lecture Neurone21
La transparence de Cloudflare est exemplaire et sert de mode d’emploi. Pour une entreprise qui fait tourner son propre moteur d’inférence, la consigne est simple : mettre à jour SGLang et tester les requêtes au-delà de la capacité réelle de la mémoire.