微软首次推出用于 AI 和云的定制芯片
关于微软计划采取定制芯片路线的猜测已经流传了一段时间。微软一直在其 Surface 系列中使用基于高通的处理器,例如SQ1、SQ2和 SQ3(Snapdragon 8cx Gen 3)。然而,有关该公司考虑自己的内部 ARM 服务器设计的报道 早在 2020 年就开始出现 。
在正在进行的 Microsoft Ignite 会议上,该公司推出了两款定制芯片 IP,旨在满足其雄心勃勃的 AI 计划——Azure Maia 100 AI 加速器和 Azure Cobalt 100 定制 CPU。微软将在明年初首先将这些芯片部署到自己的数据中心,为 Copilot 和 Azure OpenAI 服务提供支持。
不过,微软并没有透露太多有关芯片本身的技术信息。不过,它确实指出,Maia 100 是一款 5 nm 芯片,拥有 1050 亿个晶体管,使其成为采用该工艺制造的最大的此类芯片之一。Maia 100 将为 OpenAI 模型和 ChatGPT 运行基于云的训练和推理,并且专门为训练 OpenAI 的大型语言模型而设计。
Maia 100 将采用完全液体冷却,微软甚至设计了带有液体冷却散热器“助手”的定制机架来容纳这些芯片。
另一方面,Cobalt 100 是一款 64 位 128 核 CPU,专为 Microsoft 云中的一般工作负载(包括 Teams 和 SQL)而设计。微软表示,Cobalt 100 的性能比当前的 Azure ARM 芯片强 40%。
除了 Maia 100 和 Cobalt 100 之外,微软还宣布推出用于运行 AI 和高性能计算 (HPC) 工作负载的 Azure NC H100 v5 虚拟机 (VM) 公共预览版。这些虚拟机基于 Nvidia Hopper H100 GPU 和 AMD EPYC Genoa 处理器。