Maia 300 : l'économie de l'inférence passe au silicium maison

Ce que Microsoft a annoncé

Le 12 octobre 2026, Microsoft a annoncé Azure Maia 300, troisième génération de sa famille d'accélérateurs d'IA maison, dans un billet du blog officiel signé par Scott Guthrie, vice-président exécutif Cloud + AI. Les déploiements en production débuteront en 2027, et Microsoft affirme qu'elle portera la famille Maia à des déploiements multi-gigawatts, faisant de Maia le système d'inférence principal de ses produits et services. Reuters rapporte que l'entreprise a évoqué le déploiement potentiel de plus d'un million de puces Maia 300 l'an prochain pour soutenir ses services d'IA internes.

Maia 300 est conçu, selon les mots de Microsoft, comme un « système intelligent complet » à l'architecture centrée sur l'inférence pour trois types de charges : le raisonnement à long contexte, les expériences conversationnelles sensibles à la latence et les tâches agentiques soutenues en plusieurs étapes. Les chiffres clés sont des chiffres d'efficacité : Microsoft attend 40 % de tokens par mégawatt en plus que les systèmes GPU de premier plan, et jusqu'à sept fois le débit de tokens à l'échelle du rack de son prédécesseur Maia 200 en configuration complète de 96 accélérateurs. Ces deux chiffres sont des attentes de l'entreprise pour un système qui n'est pas encore entré en production.

[1] [2]

À l'intérieur du système Maia 300

L'architecture est construite autour de chiplets. Une nouvelle conception multi-chiplet sépare les fonctions de calcul, de contrôleur mémoire et d'E/S ; les chiplets de calcul utilisent le nœud N2P de TSMC, tandis que Reuters ajoute qu'une technologie 3 nanomètres moins coûteuse prend en charge les fonctions de déplacement des données. Chaque accélérateur embarque huit piles HBM4 offrant 18,0 To/s de bande passante mémoire crête dans un TDP de 950 watts, et Microsoft cite des formats basse précision MXFP4 améliorés ainsi qu'une SRAM sur puce utilisée comme mémoire de travail gérée par logiciel pour soulager la HBM.

À l'échelle du rack, 96 accélérateurs tiennent dans une enveloppe de 167 kilowatts, avec 27,6 To de capacité HBM et 1,7 Po/s de bande passante HBM agrégée sur un domaine de scale-up haut débit. Le principe de conception affiché par Microsoft est le flux de données défini par logiciel avec optimisation des kernels assistée par IA : déplacer les données efficacement, plutôt que la puissance de calcul brute, est le goulot d'étranglement des grands systèmes d'inférence. Le réseau est traité comme une extension de ce flux de données, avec un transport IA basé sur Ethernet couvrant accélérateurs et racks.

[1] [2]

Déjà en service, déjà livré

L'annonce s'appuie sur un système déjà en exploitation. Maia 200 sert déjà des charges de production de Microsoft, dont Microsoft Copilot, et GitHub Copilot ainsi que Microsoft Foundry suivront d'ici fin 2026. Il exécute des modèles OpenAI, les propres modèles MAI de Microsoft et les principales familles de modèles ouverts dans des déploiements aux États-Unis, en Europe et en Australie — et Microsoft annonce jusqu'à 1,7 fois plus de tokens par watt que l'infrastructure GPU de premier plan pour les capacités d'IA intégrées de Teams, Copilot et des expériences Cowork. Ce sont des chiffres communiqués par l'entreprise, pas des mesures indépendantes.

Le même jour, au sommet mondial OCP de San José, d-Matrix a annoncé Squadron : des clusters d'inférence multi-racks montant à plus de 1 000 XPU Corsair interconnectées pour un calcul à latence ultra-faible à l'échelle du mégawatt, développés avec Arista, Broadcom et Supermicro. Les clusters sont déjà déployés dans le centre de données de d-Matrix en Arizona et sont désormais livrés aux clients prioritaires, avec les serveurs Corsair et les racks SquadRack déjà disponibles. Deux lancements, une semaine, un même message : l'efficacité d'inférence comme produit.

[1] [3]

Pourquoi c'est important

Lisez la fiche technique comme un argument : bande passante HBM4 par watt, formats MXFP4, mémoires de travail SRAM, chiplets dédiés au déplacement des données. Chaque caractéristique clé vise le même goulot — acheminer les poids et le cache KV jusqu'au calcul — ce qui signifie que l'inférence est discrètement devenue un problème de déplacement de mémoire, et non de calcul brut. La ressource rare n'est plus le FLOPS ; ce sont les octets livrés par watt.

L'unité de concurrence change avec elle. Les métriques choisies par Microsoft — tokens par mégawatt, tokens par watt, débit de tokens à l'échelle du rack — remplacent les FLOPS crête comme base de comparaison, et ce sont les unités sur lesquelles les acheteurs finiront par fixer les prix. Le schéma n'est plus l'expérience d'une seule entreprise : un hyperscaler et une startup ont annoncé des systèmes d'inférence centrés sur la mémoire la même semaine. Et le calendrier compte : Maia 300 est une feuille de route pour 2027, donc la capacité d'inférence actuelle fonctionne toujours sur des parcs de GPU, et les chiffres de 40 % et 7x restent des attentes, pas des résultats livrés.

[1] [3]

Ce qu'il faut surveiller

Pour les équipes qui construisent sur l'infrastructure IA, la métrique à surveiller est celle des tokens par dollar par watt. Celui qui contrôle la pile complète — silicium, système, réseau et les charges pour lesquelles elle a été co-conçue — fixera le prix de l'inférence, et le choix du modèle comptera moins que la propriété des mégawatts. L'argument de co-conception de Microsoft, construit sur des charges à l'échelle de Copilot et son équipe de modèles MAI, est que seul l'opérateur de la charge peut y ajuster le silicium.

Traitez les affirmations d'efficacité comme des déclarations de feuille de route jusqu'à l'existence de benchmarks indépendants au niveau du service. Une avance de 40 % en tokens par mégawatt est un objectif de conception, pas une liste de prix : elle devient réelle lorsqu'elle apparaît dans une capacité disponible et tarifée que des tiers peuvent mesurer. La direction est claire et l'ingénierie est sérieuse ; la vérification reste à venir.