Le fait
Le 20 octobre 2026, en marge de la PyTorch Conference North America, deux géants du cloud ont fait de leurs puces maison des appareils PyTorch « comme les autres ».
- AWS a ouvert la bêta publique de TorchNeuron (paquet torch-neuronx), backend natif de PyTorch pour ses puces Trainium2 et Trainium3, publié en open source sous licence Apache 2.0. Il suffit d’envoyer le modèle sur l’appareil « neuron » avec
.to("neuron"); le mode eager, torch.compile et les API distribuées standard (DDP, FSDP2, parallélisme de tenseurs) fonctionnent tels quels. - Google a publié en open source TorchTPU, sa pile PyTorch native pour les TPU, codéveloppée avec l’équipe PyTorch de Meta, avec des intégrations dans vLLM, SGLang, Hugging Face Transformers, TorchTitan, Ray et llm-d.
Ce qu’annonce AWS
TorchNeuron s’appuie sur PrivateUse1, le point d’extension officiel de PyTorch pour le matériel tiers. AWS dit tester en continu 100 000 modèles Hugging Face couvrant, selon lui, 99,9 % des usages réels, et reconnaît des trous : environ 22 000 tests de PyTorch sont sautés faute d’opérateurs portés, et la quantification FP8 reste en bêta privée. Les notes de version, datées du 19 octobre (Neuron 2.33.0), visent PyTorch 2.13 et 2.14. Deepgram affirme y traiter environ 60 % de secondes d’audio en plus par dollar que sur ses GPU de référence.
Ce qu’annonce Google
Google met en avant une utilisation des calculs (MFU) allant jusqu’à 52 % sur Qwen 3 8B avec TorchTitan, et un passage à l’échelle quasi linéaire jusqu’à 8 192 TPU Ironwood. Dans Transformers v5, déployer un modèle sur TPU revient à passer device_map="tpu". Google publie aussi llm-d 1.0 avec Red Hat et IBM pour router l’inférence entre TPU et GPU.
Lecture Neurone21
Le verrou de NVIDIA tient autant à CUDA qu’au silicium. En rendant Trainium et TPU accessibles sans réécrire le code PyTorch, AWS et Google réduisent le coût de sortie pour les équipes qui entraînent ou servent des modèles. Pour une PME, l’effet sera indirect mais réel : plus de concurrence sur le prix de l’inférence dans le cloud. Les chiffres de performance sont ceux des éditeurs et de leurs clients, et TorchNeuron reste une bêta.