简单来说,谷歌这次的核心打法就是一改过去 TPU 只放在自家云里租给客户的模式,直接对外销售整柜成套 TPU 硬件,加速交付给外部企业,第三方基准测试显示 TPUv7 Ironwood 在推理场景下,每美元性能最高比英伟达 GB200 高出 50%,直接瞄准英伟达 Blackwell 系列推理算力的基本盘;之所以谷歌这个动作能形成冲击,一方面是 TPU 原生做了脉动阵列、HBM 带宽和推理调度优化,在 FP8 大模型推理、Agent 多轮交互场景里单位成本产出更高,另一方面之前 TPU 最大短板是只对内自用、生态封闭、交付慢,现在改成整柜交付,客户可以部署在自己本地机房,再加上 TorchTPU 适配 PyTorch 降低迁移门槛,就能抢走一部分推理算力订单,但它也有明显短板,CUDA 生态、训练场景、FP4 低精度支持上还不如英伟达。整体的落地节奏是先开放整柜 TPU 硬件售卖、加快交付排期,再补齐软件生态,靠性价比抢推理客户,英伟达这边也已经针对基准测试连夜做软件优化来回击,整个 AI 算力市场的竞争从单纯拼峰值算力,转向拼单位成本的推理吞吐。
一、核心事件梳理:TPU 从云租赁转向整柜外售
- 商业模式变化清单
- 旧模式:TPU 只在 Google Cloud 上提供算力租赁,客户不能把硬件买走,只能线上调用
- 新模式:直接销售完整机柜 TPU 整机,包含芯片、主板、网络、存储、配套底层软件,客户采购后部署在自有数据中心
- 交付节奏:2026 年 Q2 启动首批交付,现在持续扩产、压缩交付周期,面向 AI 实验室、云厂商、金融机构等大客户
- 主力型号:TPUv7 Ironwood
- 客户情况
单芯片搭载 192GB HBM,原生 FP8,主打大模型推理、Agent 交互负载,也是这次对比 GB200 拿到性价比优势的主力型号
Anthropic 是最大外部客户,计划采购百万颗量级 TPU;同时还有交易机构、零售企业、高校等近百家客户接入 TPU 体系
二、性能对比:TPUv7 和 GB200 推理性价比差异
- 第三方测试口径(SemiAnalysis InferenceX)
- 基准场景:Qwen3.5 397B,FP8 精度、vLLM 推理框架
- 100tok/s/user 交互条件:TPUv7 每百万 token 成本 0.181 美元,GB200 为 0.222 美元
- 特定并发区间,TPUv7 每美元 token 产出最高领先 GB200 约 50%
注意:这个优势是推理场景、FP8、外部 TCO 口径,不是所有场景都碾压,训练、FP4 低精度场景英伟达仍有优势
- 对比表格
| 项目 | 谷歌 TPUv7 Ironwood | 英伟达 GB200 |
|---|---|---|
| 主打场景 | 大模型推理、Agent 交互 | 训练 + 推理通用,FP4 低精度优势强 |
| 显存 | 192GB HBM | 更高 HBM 规格 |
| 生态 | TorchTPU 适配 PyTorch,生态仍在建设 | CUDA、TensorRT-LLM 生态成熟 |
| 优势点 | 推理每美元吞吐、本地整机交付 | 训练、FP4、工具链、迁移成本低 |
| 短板 | FP4 支持弱、训练通用性不足 | 硬件采购成本高、单位 token 成本更高 |
三、谷歌这套打法的关键配套动作
- 整机柜打包交付,降低客户部署门槛
- 补齐软件栈,降低迁移成本
- 持续扩产品线,覆盖更多细分负载
- 开放分销渠道,和甲骨文等厂商合作分销 TPU 算力,扩大触达客户
不用客户自己搭配服务器、网卡,整柜出厂预调通互联,拿到之后上电就能跑推理,缩短上线周期。
推出 TorchTPU 原生 PyTorch 后端,替代老方案 TorchAX,让大量 PyTorch 模型不用大规模重写就能跑在 TPU 上。
除了 TPUv7,还推出 TPU8tx(机密推理)、TPU8i Max(长上下文、多智能体),一年发布四款 TPU 系统。
四、英伟达的应对动作
- 针对 AgentX 基准连夜组织团队多轮软件优化,调整解码调度,在部分测试项反超
- 持续更新 TensorRT-LLM,提升 GB200、GB300 推理吞吐,压低单 token 成本
- 强化 NVL 互联、FP4 低精度方案,守住训练和高吞吐推理的基本盘
五、客户选型怎么判断(简单清单)
✅ 优先选 TPU 整柜:业务以 FP8 推理为主、对推理成本敏感、有自建机房、愿意做模型迁移
✅ 优先选 GB200:同时做训练 + 推理、大量 FP4 低精度需求、不想改动现有 CUDA 代码、需要成熟工具链
⚠️ 风险提醒:TPU 生态还在扩张,小众算子、自定义内核适配工作量会比 CUDA 更大
【相关 FAQ】
问题 1:谷歌整柜 TPU 外售,推理每美元性能领先 GB200 五成,这个优势在所有场景都成立吗?
回答 1:不是,谷歌整柜 TPU 外售的这个 50% 每美元性能领先 GB200,是 FP8 推理、Agent 交互场景下的第三方测试结果,训练场景、FP4 低精度场景,GB200 依然有优势,不能直接等同于全场景碾压。
问题 2:谷歌 TPU 整柜外售和之前云里面租 TPU,核心差别是什么?
回答 2:之前谷歌 TPU 只能在 Google Cloud 上租用算力,硬件归谷歌;现在整柜 TPU 外售,客户直接买下整套机柜,部署在自己的数据中心,自主管控硬件,同时还能拿到 TPUv7 推理每美元性能领先 GB200 五成的性价比。
问题 3:谷歌 TPUv7 推理性价比领先 GB200,会不会直接替代英伟达 GPU?
回答 3:短期很难替代,谷歌 TPU 整柜外售主要抢推理赛道,虽然 TPUv7 推理每美元性能领先 GB200 五成,但 CUDA 生态、训练、FP4 支持、开发者工具链都是英伟达的强项,大部分客户会选择混合部署。
问题 4:什么样的企业适合采购谷歌整柜 TPU?
回答 4:以大模型推理、Agent 服务为主,自建机房、算力规模大、愿意适配 PyTorch 新后端,看重推理成本的企业适合采购谷歌整柜 TPU,享受 TPUv7 每美元推理性能领先 GB200 五成的收益。
问题 5:英伟达针对谷歌 TPU 推理性价比领先 GB200 这件事,做了哪些应对?
回答 5:英伟达针对基准测试连夜多轮软件调优,优化解码调度,迭代 TensorRT-LLM 推理引擎,持续提升 GB200、GB300 吞吐,压低单 token 成本,守住推理算力市场份额。
【参考资料】
[2026-11-15](谷歌奇袭英伟达:整柜 TPU 外售加速交付,推理每美元性能领先 GB200 五成)36 氪
[2026-11-11](谷歌一年四款 TPU:不造新芯片,用封装、网络和安全重写 AI 硬件规则)钛媒体
[2026-11-10](谷歌加速挑战英伟达?一年连发四款 TPU)新浪财经
[2026-11-06](The Iron (wood) Throne: Google's TPU Stakes Its Claim on Inference)SemiAnalysis
[2026-09-08](SemiAnalysis:谷歌 TPU 杀入英伟达腹地,Ironwood 每美元性能最高领先 B200 50%)新浪财经
【免责声明】
本文仅为算力行业资讯解读,TPU 与 GB200 的推理性价比数据来自第三方基准测试,不同模型、精度、并发、机房电价条件下结果会发生变化;不构成算力采购、芯片选型投资建议;算力生态、交付周期、价格政策以谷歌、英伟达官方最新信息为准。
