谷歌TPUv7 Ironwood第三方推理首测：FP8每美元性能较B200/B300最高提升50%
talkingdev • 2026-09-08
3396 views
谷歌TPUv7 Ironwood的第三方推理结果首次在InferenceX官方预览中亮相。在与Nvidia B200/B300进行同口径FP8对比时，Ironwood每美元性能最高可领先50%，意味着单位成本下能够提供明显更强的推理吞吐。值得关注的是，Ironwood是谷歌首款既可直接购买、也可通过谷歌云租用，并面向第三方推理工作负载竞争的TPU芯片。软件生态方面，原生TorchTPU PyTorch栈正在取代TorchAX，配合Pallas内核和MXU优化，进一步降低外部用户迁移与调优门槛。考虑到谷歌长期积累的软件工程能力，外部TPU软件栈有望快速成熟，推动AI推理算力市场从英伟达主导走向更多元竞争。
核心要点
- 谷歌TPUv7 Ironwood在FP8同口径对比中，每美元性能较Nvidia B200/B300最高提升50%。
- Ironwood是谷歌首款面向第三方推理负载、支持直接购买或云租用的TPU芯片。
- 原生TorchTPU PyTorch栈取代TorchAX，Pallas内核与MXU优化成为性能提升的关键支撑。