您要是关心 AI 推理成本，或者想知道微软会不会少买点英伟达的卡，这条消息可以看看。简单讲：微软发布了第三代 AI 加速器 Maia 300，计划从 2027 年起在 Azure 数据中心扩大使用，目标是提升算力效率、压低推理成本。据 Reuters 报道，2027 年可能部署超过 100 万颗。
微软预计 Maia 会成为自家产品和服务的主要 AI 推理系统，并称 Maia 300 每兆瓦处理的 token 数比领先的 GPU 方案多 40%，也就是同样的电力配额能多跑一些推理。
先看要点：Maia 300 与 Maia 200 的差别
| 项目 | Maia 300 |
|---|---|
| 设计取向 | 面向内存密集型推理，如长上下文推理和多步 AI 任务 |
| 架构 | 芯粒（chiplet）设计，计算、内存控制器、输入输出分离 |
| 计算芯粒工艺 | 台积电 N2P |
| 内存 | 8 个 HBM4 堆栈，288 GB，峰值带宽 18 TB/s |
| 较 Maia 200 | 内存带宽 2.5 倍，容量多 33% |
| 整机架 | 96 个加速器，功耗 167 千瓦 |
| 量产部署 | 2027 年 |
微软的自研 AI 基础设施走到哪一步了
Maia 300 建立在 Maia 200 之上。Maia 200 已经在跑生产负载，包括 Microsoft Copilot，也用于支持微软自家 AI 模型的开发。它正在美国、欧洲和澳大利亚部署，微软称在某些 AI 能力上每瓦处理的 token 数最高可达领先 GPU 方案的 1.7 倍。
微软计划在 2026 年底前把 Maia 200 扩展到 GitHub Copilot 和 Microsoft Foundry。目前它支持 OpenAI 模型、微软自己的 MAI 模型，以及几个开源模型系列。
Maia 300 的内部设计：芯粒加大内存
芯粒架构的意思是，把计算、内存控制器和输入输出拆成不同的小芯片。计算芯粒用台积电 N2P 工艺，其余部件按性能和成本选不同技术，这样能把更多硅面积留给计算，又不用把所有部分都做成最先进的工艺。
每个 Maia 300 加速器带 8 个 HBM4 堆栈，容量 288 GB，峰值内存带宽 18 TB/s。架构还让数据更靠近用到它的计算单元，减少在内存和处理器之间搬运数据的能耗；低精度数据格式进一步降低内存占用，让同样功率下能同时跑更多推理任务。
机架层面：密度、散热与供电
Maia 300 按机架级系统设计，在加速器密度、网络、电源管理和散热上都做了调整：
- 每个机架 96 个加速器、24 个托盘，每个托盘 4 个加速器，并集成主机处理器、内存、存储和散热部件，加速器密度是 Maia 200 的两倍，不再需要单独的主机托盘。
- 机架功耗 167 千瓦，提供 27.6 TB 高带宽内存，聚合内存带宽 1.7 PB/s。
- 微软称满配机架的 token 吞吐最高可达 Maia 200 的 7 倍，每瓦性能超过 2.5 倍。注意，这两个数字对比的是微软上一代，而不是竞品 GPU。
- 据技术文档，液冷带走机架 80% 以上的热负载，其余由风冷负责；设施有冷却水就直连，风冷机房则用换热单元。
- 机架和机排两级都有功耗监控，用来根据电力和散热余量调整功率分配和任务摆放。
- 加速器之间使用以太网互联，支持跨机架放置任务，减少因任务放不进单个机架而闲置的算力。
对英伟达的依赖会少吗
云厂商自研芯片并不新鲜：Google 有 TPU，AWS 有 Trainium 和 Inferentia。微软这边，Reuters 报道称 Maia 的开发有一部分目的是降低对英伟达的依赖、提升运行 AI 服务的成本效率。
但微软并没有”全面替换”的打算：2026 年 7 月，它宣布用 AMD 的 Helios 平台和下一代 EPYC 处理器扩展 Azure 的 AI 和高性能计算基础设施，英伟达 GPU 仍是 Azure 的一部分。小编的理解是，自研芯片更像是多了一个选项，主要跑微软自家 AI 产品和服务的推理负载。
还有哪些没公布的信息
微软没有披露与英伟达或 AMD 方案的详细每 token 成本对比，也没公布 Maia 300 的总研发和部署成本，以及完整的运营成本对比。
资本开支方面，微软在 2026 财年第四季度财报电话会上预计 2026 日历年资本支出约 1,750 亿美元，这一修订反映了数据中心和办公楼估计使用寿命的变化，会影响部分未来租赁的分类。该季度资本支出 410 亿美元，约三分之二用于 CPU、GPU 等寿命较短的资产；微软云毛利率同比降到 65%，原因包括持续的 AI 基础设施投入、产品使用量增加以及销售结构向 Azure 倾斜，运营效率改善部分抵消了压力。
常见问题（FAQ）
Maia 300 什么时候能用上？
微软计划 2027 年开始生产部署。
Maia 300 比英伟达 GPU 强吗？
微软称每兆瓦处理的 token 数比领先 GPU 方案多 40%，但没有给出详细的每 token 成本对比，实际表现要等部署后才清楚。
微软会不再用英伟达和 AMD 吗？
目前没有这样的计划。微软仍在扩大 AMD 平台，英伟达 GPU 也还在 Azure 里。
Maia 200 现在在干什么？
它已在美国、欧洲和澳大利亚部署，运行 Microsoft Copilot 等生产负载，年底前计划扩展到 GitHub Copilot 和 Microsoft Foundry。
“每瓦 token 数”为什么重要？
数据中心的瓶颈往往是电力和散热，每瓦能处理的 token 越多，同样的电力配额就能支撑更多的 AI 推理，成本也更容易压下来。