TorchTPU 是谷歌在 GitHub 开源的 PyTorch TPU 后端项目,目标是让 PyTorch 用户更直接、高效地利用 Google Cloud TPU 算力。该项目通过自定义 ATen 内核适配 TPU 执行特性,引入 XLA 编译缓存以减少重复编译开销,...
Read More谷歌TPUv7 Ironwood的第三方推理结果首次在InferenceX官方预览中亮相。在与Nvidia B200/B300进行同口径FP8对比时,Ironwood每美元性能最高可领先50%,意味着单位成本下能够提供明显更强的推理吞吐。值得关注的是,Ir...
Read More谷歌与Meta正联手推进一项关键合作,旨在通过名为“TorchTPU”的新项目,大幅提升谷歌自研的张量处理单元(TPU)对PyTorch深度学习框架的原生支持能力。此举的核心目标是削弱英伟达凭借其CUDA软件生态在AI计算市场建立...
Read More