01 发生了什么

微软宣布了 Maia 300,这是其下一代 AI 推理平台,并表示 Azure MaIA 将从 2027 年起扩展到多吉瓦特级部署。据微软称,Maia 300 将成为其产品和服务的主要 AI 推理系统。在微软数据中心的机架级规模下,Maia 300 系统预计每秒标记吞吐量最高可达 Maia 200 的 7 倍。平台设计用于 Microsoft 每天运行的真实工作负载和新类型的人工智能工作负载,包括长上下文推理、低延迟对话体验和持续多步骤代理任务。微软表示 Maia 300 预计每兆瓦可提供多 40% 的标记。这些是公司发布的目标,并非已验证的独立基准。

02 关键细节

  • 微软宣布 Maia 300 是其下一代 AI 推理平台。
  • 计划从 2027 年起将 Azure MaIA 扩展到多吉瓦特级部署。
  • 在微软数据中心的机架级规模下,Maia 300 预计每秒标记吞吐量最高可达 Maia 200 的 7 倍。
  • 据称 Maia 300 每兆瓦可提供多 40% 的标记。
  • 该系统设计用于长上下文推理、低延迟对话体验和持续多步骤代理任务。

03 为什么重要

Maia 300 旨在提高每瓦功率的标记吞吐量,以支持 Copilot、Teams、GitHub 和 Microsoft Foundry 等微软服务的 AI 推理。对数据中心运营商、云客户和微软产品团队具有意义。40% 和 7 倍的数字来自微软,需与独立验证结果区分。

04 适合谁

基础设施工程师、企业AI平台开发人员、人工智能代理开发人员、技术负责人及运营总监。

原始来源
Microsoft