好的,我来为你总结一下这篇报道的关键信息:
-
OpenAI自研芯片,扩大算力规模
- OpenAI 正在完成定制ASIC芯片的设计,计划部署10GW的推理计算能力。
- 除了自研芯片,OpenAI 还与英伟达(NVIDIA,10GW)和AMD(6GW)有合作协议。
- OpenAI 的目标是达到250GW的总算力,这相当于美国能源消耗的一半。
-
算力需求激增
- OpenAI 目前的算力为2GW,未来将大幅提升。
- ChatGPT 的应用场景从交互式使用转变为常驻型智能代理,需要大规模的计算能力。
- 为数十亿用户构建芯片是巨大的挑战。
-
自研芯片的原因
- OpenAI 认为定制化设计是必要的。
- 之前影响外部芯片初创公司的效果有限。
-
市场反应
- 博通(Broadcom)的股票因此消息上涨了10%。
-
AMD MI300X 性能提升
- InferenceMAX 报告称,AMD MI300X 的ROCm 稳定性有所提高。
- 在llama-3-70b FP8 工作负载上,AMD MI300X 与英伟达 H100/H200 的性能对比更加细致。
- 强化学习(RL)训练基础设施也得到了更新。
原文链接 OpenAI Titan XPU: 10GW of self-designed chips with Broadcom | AINews