Maia 300：推理经济开始走向自研芯片

微软宣布了什么

2026 年 10 月 12 日，微软在官方博客发表由云与 AI 执行副总裁 Scott Guthrie 署名的文章，发布第三代自研 AI 加速器 Azure Maia 300。生产部署将于 2027 年开始，微软表示将把 Maia 系列扩展至多吉瓦级部署，使 Maia 成为微软产品与服务的首要推理系统。路透社报道称，公司表示明年可能部署超过一百万颗 Maia 300 芯片，以支撑其内部 AI 服务。

按微软的说法，Maia 300 被设计为一套“完整的智能系统”，采用推理优先架构，面向三类工作负载：长上下文推理、低延迟对话体验，以及持续的多步骤智能体任务。公布的核心数字都是效率数字：微软预期其每兆瓦 token 产出比领先的 GPU 系统高 40%，在满配 96 加速器的机架规模下，token 吞吐量可达上一代 Maia 200 的七倍。这两项数字都是针对尚未投产的系统的公司预期。

[1] [2]

Maia 300 系统内部

架构围绕 chiplet 构建。全新的多 chiplet 设计把计算、内存控制器与 I/O 功能分离；计算 chiplet 采用台积电 N2P 工艺，路透社补充称，较便宜的 3 纳米工艺负责数据搬运功能。每颗加速器搭载 8 层 HBM4，提供 18.0 TB/s 的峰值内存带宽，热设计功耗 950 瓦；微软还提到增强版 MXFP4 低精度格式，以及用作软件管理暂存区的片上 SRAM，以减轻 HBM 压力。

在机架层面，96 颗加速器被装进 167 千瓦的功耗包络，提供 27.6 TB 的 HBM 容量和 1.7 PB/s 的聚合 HBM 带宽，跨高速 scale-up 域互联。微软提出的设计原则是软件定义数据流加 AI 辅助内核优化：在大推理系统中，瓶颈是高效地搬运数据，而非原始算力。网络被视为数据流的延伸，以基于以太网的 AI 传输横跨加速器与机架。

[1] [2]

已经在跑，已经在售

这份公告落在一个已经运转的系统之上。Maia 200 现已承载微软生产工作负载，包括 Microsoft Copilot，GitHub Copilot 与 Microsoft Foundry 将于 2026 年底前跟进。它运行 OpenAI 模型、微软自研 MAI 模型和领先的开源模型家族，部署于美国、欧洲和澳大利亚；微软称，在 Teams、Copilot 与 Cowork 体验的内置 AI 能力上，其每瓦 token 产出可达领先 GPU 基础设施的 1.7 倍。这些是公司公布的数字，并非独立测量结果。

同一天，在圣何塞的 OCP 全球峰会上，d-Matrix 发布了 Squadron：多机架推理集群，可扩展至 1000 颗以上互联的 Corsair XPU，提供兆瓦级超低延迟算力，由 Arista、Broadcom 与 Supermicro 联合开发。该集群已部署于 d-Matrix 亚利桑那州数据中心，现向优先客户发货，Corsair 服务器与 SquadRack 机架同步全面上市。两次发布、同一周、同一叙事：推理效率即产品。

[1] [3]

为什么重要

把规格表读成一篇论证：每瓦 HBM4 带宽、MXFP4 格式、SRAM 暂存区、专用于数据搬运的 chiplet。每个核心特性都指向同一个瓶颈——把权重与 KV 缓存送到计算单元——这意味着推理已悄然变成内存数据搬运问题，而非原始算力问题。稀缺资源不再是 FLOPS，而是每瓦能搬运的字节数。

竞争的计量单位也在变化。微软选用的指标——每兆瓦 token、每瓦 token、机架级 token 吞吐——正在取代峰值 FLOPS 成为比较基准，也是买方最终会据以定价的单位。这种模式已不止是一家公司的实验：超大规模云厂商与创业公司在同一周发布了以内存为中心的推理系统。时间线同样重要——Maia 300 是 2027 年的路线图，今天的推理产能仍跑在 GPU 机群上，40% 与 7 倍仍是预期，而非已交付的结果。

[1] [3]

接下来看什么

对构建 AI 基础设施的团队而言，值得盯的指标是每美元每瓦的 token 产出。谁掌控从芯片、系统、网络到协同设计的工作负载全栈，谁就将决定推理的价格；模型选择的重要性，将不及“兆瓦在谁手里”。微软的协同设计论点建立在 Copilot 级工作负载与 MAI 模型团队之上：只有工作负载的运营者，才能为其调优芯片。

在出现独立的、可验证的服务级基准之前，应把效率宣称视为路线图陈述，而非事实。40% 的每兆瓦 token 领先是设计目标，不是价目表——只有当它出现在第三方可测量的、已定价的可用产能中，才算真正落地。方向明确，工程扎实；验证尚未到来。