AI 解读

推理芯片的算力与代价

• 算力32 PFLOPS、内存带宽48TB/s，均为上一代的32倍，内存容量576GB为12倍。
• 采用2颗2nm计算裸晶加1颗独立I/O裸晶，物理尺寸约为上一代RGND的8倍。
• 搭载12个48GB HBM4(E)堆栈，支持PCIe Gen7，机架内用SUE全连接拓扑。
• 与博通合作开发，但价格、功耗、上市时间原文均未公布。

这一代最值得注意的不是32倍这个数字，而是它把算力、带宽、容量按不同倍数拉开。算力和带宽同步涨32倍，说明设计目标是不让内存拖累计算；容量只涨12倍，则意味着单卡仍装不下超大模型，多卡互联和机架级拓扑才是实际部署的关键。

尺寸涨到8倍、用上2nm和HBM4，代价是功耗、散热和成本大概率同步上升。这类芯片面向的是数据中心，不是普通用户的桌面设备。对普通人来说，它影响的是云端推理服务的速度和单价，而不是能买到的硬件。

目前还没有公布价格、功耗和上市时间，32倍算力能否转化为实际吞吐，还要看软件栈和互联效率。

参数亮眼，但功耗、价格、上市时间都未公布，先看落地。

以上内容由 AI 依据原文补充生成，不代表本站观点，仅供参考。