微软把推理芯片扩到多吉瓦：Maia 300 每兆瓦多出四成 token，2027 年投产
核心概要
微软计划从 2027 年起把 Azure Maia 系列扩到多吉瓦部署，并让 Maia 成为其产品与服务的主要推理系统；第三代 Maia 300 预计每兆瓦比主流 GPU 系统多出 40% 的 token。
深度剖析
微软把自研推理加速器从单代产品推进到多代、多吉瓦的基础设施路线，Maia 200 已进入生产，Maia 300 定于 2027 年开始生产部署。 此前 Azure Maia 只是微软 AI 基础设施战略中的一环，如今被定位为微软产品与服务的主要推理系统，并明确按多吉瓦规模扩展。 Maia 200 目前已在 Microsoft Copilot 等生产负载上服务，运行 OpenAI 模型、微软自研 MAI 模型以及主流开源模型系列，GitHub Copilot 与 Microsoft Foundry 计划在年底前跟进。
Maia 300 面向长上下文推理、延迟敏感的对话体验和持续多步智能体任务设计，采用推理优先架构，在计算、内存带宽、网络与功耗之间做云端规模的平衡。 与 Maia 200 相比，Maia 300 在满配 96 加速器的机架配置下，机架级 token 吞吐最高可达 7 倍。 微软给出的预期是 Maia 300 每兆瓦 token 数比主流 GPU 系统多 40%；Maia 200 在 Teams、Copilot 与 Cowork 的内置 AI 能力上，每瓦 token 数最高为主流 GPU 基础设施的 1.7 倍，并正在美国、欧洲和澳大利亚部署。
Maia 300 把数据流动当作首要设计原则，用软件定义的数据流架构配合 AI 辅助的内核优化，减少数据搬运、提高计算与内存的利用率。 大型推理系统的瓶颈正从原始算力转向数据搬运效率，Maia 300 因此不再只堆算力。 该架构把计算、内存与网络资源当作一个系统来调度，而不是让数据穿过独立的通信层。
Maia 300 的机架系统在 167 千瓦功耗内集成 96 个加速器，提供 27.6 TB HBM 容量与 1.7 PB/s 聚合 HBM 带宽，单机架可同时服务更多 AI 交互和更大负载。 八个 HBM4 堆栈在 950 瓦 TDP 内提供 18.0 TB/s 峰值内存带宽，并采用分离计算、内存控制器与 I/O 的多芯粒架构，计算芯粒基于台积电 N2P 工艺。 该设计支持增强的 MXFP4 等低精度格式，以降低计算与 KV 缓存的内存和带宽需求，从而在相同功耗包络内扩大上下文窗口。
启示与展望
这则报道面向关注 AI 基础设施与推理硬件的读者，覆盖微软公布的 Azure Maia 多代路线、Maia 200 的生产部署范围以及 Maia 300 的架构与机架规格。微软表示 Maia 300 将于 2027 年开始生产部署，并计划在下个月的 Microsoft Ignite 2026 上分享更多战略与技术信息。
微软把 40% 每兆瓦 token 提升和 7 倍机架级吞吐表述为对 Maia 300 的预期，而非已测结果。Maia 300 的生产部署定在 2027 年，当前可核实的运行数据来自 Maia 200。微软同时提到将发布 Maia 300 架构细节的技术论文，说明部分设计细节尚未在本次公布中展开。