Le fait
Le 20 octobre 2026, DeepSeek a publié sur GitHub DeepInfer, le cadre d’inférence à haute performance qui alimente ses services de production à grande échelle, sous licence Apache 2.0. La publication intervient la semaine même où le département américain de la Sécurité intérieure a ordonné aux agences fédérales civiles de retirer toute technologie DeepSeek (billet Neurone21 du 20 octobre).
Ce que contient la publication
- Un seul modèle pris en charge : DeepSeek-V4.1-Flash, dans sa version 1017 téléchargée par défaut.
- Du matériel des deux camps : GPU NVIDIA SM100 et NPU Huawei Ascend 950 (CUDA 13 d’un côté, CANN 9.2 de l’autre).
- Des noyaux optimisés maison (FlashMLA, DeepGEMM, DeepEP), le parallélisme par experts, le décodage spéculatif, un ordonnancement asynchrone, des sorties structurées et un échantillonnage déterministe (sur NVIDIA seulement).
DeepSeek prévient que la version publiée sert l’inférence hors ligne : un service complet exige encore un système de cache KV, la séparation des phases de préremplissage et de décodage, et la répartition de charge entre répliques, non inclus. DeepInfer a d’abord été construit sur vLLM, avec des emprunts à SGLang et TensorRT-LLM.
Ce qu’en disent les analystes
Pour Lian Jye Su (Omdia), cité par TechTarget, le moteur réduit le nombre de GPU nécessaires pour une même charge et intéresse surtout les entreprises qui font tourner DeepSeek sur leur propre infrastructure. Jack Gold (J. Gold Associates) y voit aussi un message de leadership, favorable à Huawei, qui cherche à s’imposer comme alternative crédible à NVIDIA ; Lian Jye Su note que le maintien du support NVIDIA montre que Huawei reste en retard sur certains points.
Lecture Neurone21
Publier son moteur de production est rare chez les éditeurs de modèles : c’est un cadeau aux équipes qui hébergent elles-mêmes leurs modèles, et un argument commercial dans la guerre des prix des modèles chinois. Pour une organisation européenne, l’intérêt technique est réel, mais l’usage de DeepSeek reste à évaluer au cas par cas au regard des exigences de conformité et de la politique de chaque secteur, d’autant que le support Ascend concerne un matériel peu présent en Europe.