您的位置首页 >半导体 >

谷歌整柜 TPU 对外交付冲击英伟达,推理每美元性能相比 GB200 领先五成

简单来说,谷歌这次的核心打法就是一改过去 TPU 只放在自家云里租给客户的模式,直接对外销售整柜成套 TPU 硬件,加速交付给外部企业,第三方基准测试显示 TPUv7 Ironwood 在推理场景下,每美元性能最高比英伟达 GB200 高出 50%,直接瞄准英伟达 Blackwell 系列推理算力的基本盘;之所以谷歌这个动作能形成冲击,一方面是 TPU 原生做了脉动阵列、HBM 带宽和推理调度优化,在 FP8 大模型推理、Agent 多轮交互场景里单位成本产出更高,另一方面之前 TPU 最大短板是只对内自用、生态封闭、交付慢,现在改成整柜交付,客户可以部署在自己本地机房,再加上 TorchTPU 适配 PyTorch 降低迁移门槛,就能抢走一部分推理算力订单,但它也有明显短板,CUDA 生态、训练场景、FP4 低精度支持上还不如英伟达。整体的落地节奏是先开放整柜 TPU 硬件售卖、加快交付排期,再补齐软件生态,靠性价比抢推理客户,英伟达这边也已经针对基准测试连夜做软件优化来回击,整个 AI 算力市场的竞争从单纯拼峰值算力,转向拼单位成本的推理吞吐。

一、核心事件梳理:TPU 从云租赁转向整柜外售

  • 商业模式变化清单
  1. 旧模式:TPU 只在 Google Cloud 上提供算力租赁,客户不能把硬件买走,只能线上调用
  2. 新模式:直接销售完整机柜 TPU 整机,包含芯片、主板、网络、存储、配套底层软件,客户采购后部署在自有数据中心
  3. 交付节奏:2026 年 Q2 启动首批交付,现在持续扩产、压缩交付周期,面向 AI 实验室、云厂商、金融机构等大客户
  • 主力型号:TPUv7 Ironwood
  • 客户情况

单芯片搭载 192GB HBM,原生 FP8,主打大模型推理、Agent 交互负载,也是这次对比 GB200 拿到性价比优势的主力型号

Anthropic 是最大外部客户,计划采购百万颗量级 TPU;同时还有交易机构、零售企业、高校等近百家客户接入 TPU 体系

二、性能对比:TPUv7 和 GB200 推理性价比差异

  • 第三方测试口径(SemiAnalysis InferenceX)
  1. 基准场景:Qwen3.5 397B,FP8 精度、vLLM 推理框架
  2. 100tok/s/user 交互条件:TPUv7 每百万 token 成本 0.181 美元,GB200 为 0.222 美元
  3. 特定并发区间,TPUv7 每美元 token 产出最高领先 GB200 约 50%

注意:这个优势是推理场景、FP8、外部 TCO 口径,不是所有场景都碾压,训练、FP4 低精度场景英伟达仍有优势

  • 对比表格
项目谷歌 TPUv7 Ironwood英伟达 GB200
主打场景大模型推理、Agent 交互训练 + 推理通用,FP4 低精度优势强
显存192GB HBM更高 HBM 规格
生态TorchTPU 适配 PyTorch,生态仍在建设CUDA、TensorRT-LLM 生态成熟
优势点推理每美元吞吐、本地整机交付训练、FP4、工具链、迁移成本低
短板FP4 支持弱、训练通用性不足硬件采购成本高、单位 token 成本更高

三、谷歌这套打法的关键配套动作

  1. 整机柜打包交付,降低客户部署门槛
  2. 补齐软件栈,降低迁移成本
  3. 持续扩产品线,覆盖更多细分负载
  4. 开放分销渠道,和甲骨文等厂商合作分销 TPU 算力,扩大触达客户

不用客户自己搭配服务器、网卡,整柜出厂预调通互联,拿到之后上电就能跑推理,缩短上线周期。

推出 TorchTPU 原生 PyTorch 后端,替代老方案 TorchAX,让大量 PyTorch 模型不用大规模重写就能跑在 TPU 上。

除了 TPUv7,还推出 TPU8tx(机密推理)、TPU8i Max(长上下文、多智能体),一年发布四款 TPU 系统。

四、英伟达的应对动作

  1. 针对 AgentX 基准连夜组织团队多轮软件优化,调整解码调度,在部分测试项反超
  2. 持续更新 TensorRT-LLM,提升 GB200、GB300 推理吞吐,压低单 token 成本
  3. 强化 NVL 互联、FP4 低精度方案,守住训练和高吞吐推理的基本盘

五、客户选型怎么判断(简单清单)

✅ 优先选 TPU 整柜:业务以 FP8 推理为主、对推理成本敏感、有自建机房、愿意做模型迁移

✅ 优先选 GB200:同时做训练 + 推理、大量 FP4 低精度需求、不想改动现有 CUDA 代码、需要成熟工具链

⚠️ 风险提醒:TPU 生态还在扩张,小众算子、自定义内核适配工作量会比 CUDA 更大

【相关 FAQ】

问题 1:谷歌整柜 TPU 外售,推理每美元性能领先 GB200 五成,这个优势在所有场景都成立吗?

回答 1:不是,谷歌整柜 TPU 外售的这个 50% 每美元性能领先 GB200,是 FP8 推理、Agent 交互场景下的第三方测试结果,训练场景、FP4 低精度场景,GB200 依然有优势,不能直接等同于全场景碾压。

问题 2:谷歌 TPU 整柜外售和之前云里面租 TPU,核心差别是什么?

回答 2:之前谷歌 TPU 只能在 Google Cloud 上租用算力,硬件归谷歌;现在整柜 TPU 外售,客户直接买下整套机柜,部署在自己的数据中心,自主管控硬件,同时还能拿到 TPUv7 推理每美元性能领先 GB200 五成的性价比。

问题 3:谷歌 TPUv7 推理性价比领先 GB200,会不会直接替代英伟达 GPU?

回答 3:短期很难替代,谷歌 TPU 整柜外售主要抢推理赛道,虽然 TPUv7 推理每美元性能领先 GB200 五成,但 CUDA 生态、训练、FP4 支持、开发者工具链都是英伟达的强项,大部分客户会选择混合部署。

问题 4:什么样的企业适合采购谷歌整柜 TPU?

回答 4:以大模型推理、Agent 服务为主,自建机房、算力规模大、愿意适配 PyTorch 新后端,看重推理成本的企业适合采购谷歌整柜 TPU,享受 TPUv7 每美元推理性能领先 GB200 五成的收益。

问题 5:英伟达针对谷歌 TPU 推理性价比领先 GB200 这件事,做了哪些应对?

回答 5:英伟达针对基准测试连夜多轮软件调优,优化解码调度,迭代 TensorRT-LLM 推理引擎,持续提升 GB200、GB300 吞吐,压低单 token 成本,守住推理算力市场份额。

【参考资料】

[2026-11-15](谷歌奇袭英伟达:整柜 TPU 外售加速交付,推理每美元性能领先 GB200 五成)36 氪

[2026-11-11](谷歌一年四款 TPU:不造新芯片,用封装、网络和安全重写 AI 硬件规则)钛媒体

[2026-11-10](谷歌加速挑战英伟达?一年连发四款 TPU)新浪财经

[2026-11-06](The Iron (wood) Throne: Google's TPU Stakes Its Claim on Inference)SemiAnalysis

[2026-09-08](SemiAnalysis:谷歌 TPU 杀入英伟达腹地,Ironwood 每美元性能最高领先 B200 50%)新浪财经

【免责声明】

本文仅为算力行业资讯解读,TPU 与 GB200 的推理性价比数据来自第三方基准测试,不同模型、精度、并发、机房电价条件下结果会发生变化;不构成算力采购、芯片选型投资建议;算力生态、交付周期、价格政策以谷歌、英伟达官方最新信息为准。