谷歌一年四发 TPU:不造新芯片,用封装、网络和安全重写 AI 硬件规则

2026.11.11 00:23
2026 年 11 月 9 日,谷歌宣布推出 TPU 8tx 和 TPU 8i Max,将第八代 TPU 产品线扩展至四款,创下该公司一年内发布四款 TPU 系统的首次纪录。两款新品都不是新芯片,而是围绕既有硅片做封装、网络、内存和安全的重组:TPU 8tx 复用 TPU 8t 训练硅片并搭配第五代 AMD EPYC 主机,主打机密推理;TPU 8i Max 将两颗 TPU 8i 封装在一起,HBM、SRAM 和带宽全部翻倍,瞄准长上下文与多智能体负载。

在 AI 芯片战场,大多数人只盯着一个数字,那就是算力。黄仁勋的 GPU 靠它称王,云厂商的自研芯片也拿它当敲门砖。但谷歌 2026 年 11 月 9 日抛出的新答卷,刻意绕开了这场算力竞赛。

谷歌没有发布新芯片,只是把已有的 TPU 8t 和 TPU 8i 重新封装、重新联网、重新加固。两款新产品,面向机密推理的 TPU 8tx 和面向超大上下文窗口的 TPU 8i Max,让谷歌在一年内推出了四款 TPU 系统。这是该公司历史上第一次。

真正的信号不是"谷歌又造了一款更快的芯片",而是"谷歌开始像搭积木一样造芯片"。当训练和推理的需求已经分化到无法用同一套硬件讨好,当银行和政府不愿把敏感数据送进共享加速器,当智能体需要一次性吞下百万 token 的上下文,谷歌选择用模块化架构快速重组现有硅片,而不是等下一代流片。

这恰恰是英伟达最难跟上的节奏。

一年四款 TPU,谷歌把产品线拆碎了

2026 年 4 月的 Google Cloud Next 上,谷歌第八代 TPU 首次一分为二,TPU 8t 面向大规模预训练,TPU 8i 面向实时推理。官方给出的数字是,TPU 8t 的训练性能比上一代 Ironwood 最高提升 2.7 倍,TPU 8i 的推理性价比提升 80%。两款芯片都基于台积电 N3 工艺,由谷歌与 Google DeepMind 联合设计,托管在谷歌自研的 Axion ARM 处理器上。

七个月后的 11 月 9 日,谷歌基础设施与 AI 首席技术官 Amin Vahdat 在官方博客宣布,这条产品线再次裂变,TPU 8tx 和 TPU 8i Max 加入战局。谷歌在博文中写道:"这是我们第一次在一年内推出四款 TPU 系统。"

从产品形态看,这两款都不是新芯片。TPU 8tx 复用 TPU 8t 的硅片,搭配第五代 AMD EPYC CPU 主机,专为机密推理和小规模训练设计;TPU 8i Max 则把两颗 TPU 8i 芯片塞进一个封装,计算能力、片上 SRAM 和高带宽内存带宽全部翻倍,同时保持现有机架占地不变。

谷歌的打法变了,不再追求"一代芯片打天下",而是把 TPU 变成 AI Hypercomputer 里的模块化积木,按需重组。Vahdat 在博文中把这种思路说得直白,第八代架构的模块化特性,为未来提供了一条清晰且独特的路线图。谷歌甚至透露,它正在用 AlphaChip 系统和 Gemini 来加速芯片布局,把 AI 本身变成造芯片的工具。

训练和推理已经分道扬镳,硬件必须跟着裂开

为什么谷歌要在同一年里把一款芯片拆成四款?答案藏在 AI 工作负载的结构性变化里。

传统上,训练和推理可以共用一套加速器。训练是离线的大规模矩阵运算,追求吞吐;推理是在线服务,追求低延迟。但在智能体时代,这两者的边界正在消失。一个会规划、执行、学习的推理智能体,需要在连续反馈循环中反复调用模型,它的"推理"本质上是一连串小型训练和蒸馏。

谷歌显然看到了这一点。TPU 8tx 的关键设计不是"更安全",而是"能在单机上同时跑推理和训练"。它配备了一条定制的推理网络,让推理可以与训练并行运行,客户因此可以在私有数据上微调模型、把大模型蒸馏成小模型、用强化学习训练智能体,而无需在集群之间搬运数据。

这解释了为什么 TPU 8tx 要复用 TPU 8t 的训练硅片,却配上为 TPU 8i 设计的 Boardfly 低延迟网络。谷歌不是在堆参数,而是在重新定义一台机器的任务边界,训练和推理不必分处两个集群,它们可以在同一块板卡上握手。

TPU 8i Max 则回应了另一个新瓶颈,那就是内存。当智能体需要在整个代码库或数小时视频中推理,当 Gemini 的上下文窗口冲向百万 token,限制速度的不再是算力,而是数据能不能一次性装进内存。把两颗 8i 封装在一起,HBM 容量、SRAM 和带宽同时翻倍,等于把"内存墙"往后推了一大截。谷歌没有公布 Max 版本的绝对数字,但基准已经摆在那里,单颗 TPU 8i 就有 288 GB HBM、384 MB SRAM 和 8,601 GB/s 的 HBM 带宽。

网络拓扑的变化同样值得玩味。训练导向的 TPU 8t 采用环面(torus)设计,最大网络跳数达到十六;而推理导向的 TPU 8i 使用 Boardfly 拓扑,最大跳数只有七。这一结构差异直接压低了实时推理的延迟,也解释了为什么谷歌要坚持为不同工作负载定制互联,而不是依赖一张通用网络。

当训练、推理、机密计算、长上下文各自长出不同的硬件需求,"一款芯片包打天下"就成了效率的敌人。谷歌的选择是承认分化,然后用封装和网络去填补分化留下的缝隙。

机密推理,谷歌在抢银行和政府客户的入场券

TPU 8tx 的另一个关键词是"机密"。谷歌在博文中写道,这款芯片"把安全直接构建到硬件层,让敏感数据和模型权重即使在使用中也保持受保护和隔离"。

这句话戳中了云计算多年来的老伤口。数据在传输中和静态存储时都可以加密,唯独"使用中"的数据必须在内存里解密,才能被处理器读取。这道缝隙让银行、医疗系统、政府机构和律所多年来对把最敏感的提示词送进共享云加速器心存顾虑,隔离故事的强度,始终比不上本地部署。

TPU 8tx 试图用硬件级隔离补上这道缝。配合第五代 AMD EPYC 主机,它给受监管企业提供了一个留在云上的理由,你可以在谷歌云上跑前沿模型或专有智能体,而云运营商本身也无法明文读取你的数据和模型权重。对银行、医院、政府这些把合规看得比算力更重的客户来说,这是一张久违的入场券。

谷歌给出的性能承诺也很有针对性,相对 TPU 8t,TPU 8tx 的延迟最高降低 2 倍,而安全特性带来的性能损失接近于零。谷歌没有公布绝对的延迟或吞吐数字,但这个表态本身已经说明问题,机密计算过去最大的阻力不是"不安全",而是"太慢"。一旦性能损失可以忽略,合规部门的否决权就松动了一半。

这是一笔精明的生意。训练市场的客户是前沿实验室,它们追逐算力;推理市场的客户是千行百业,它们追逐合规。谷歌用 TPU 8tx 敲开的,是那些有钱、有数据、但一直站在云 AI 门外的人。

模块化背后的真正对手,是英伟达的软件锁

如果只看硬件,谷歌的新品像是在做加法。但把视线拉到软件层,才能看清谷歌的真正意图。

英伟达的护城河从来不只是 GPU,而是 CUDA 生态。客户被锁在英伟达身上,往往不是因为硬件更好,而是因为代码、工具和人才都长在那套栈里。谷歌这几年的出招,几乎都在拆这道锁,上个月开源 TorchTPU,让 PyTorch 和 Hugging Face 模型可以原生跑在 TPU 上;用 AlphaChip 系统和 Gemini 加速芯片布局;把 TPU 做成可重组的模块化积木,让开发者按工作负载选系统而不是选厂商。

Amin Vahdat 在博文中提到,TPU 如今已服务近 100 家客户,包括前沿实验室、交易公司、零售商和大学。谷歌没有点名,但结合 Anthropic 在 2025 年 10 月宣布扩大与谷歌和博通的 TPU 合作,以及市场传闻中谷歌与博通合作的百万颗 TPU 订单,这张客户名单的含金量不低。

更有意思的是谷歌与英伟达的关系。就在宣布 TPU 新品的同一时期,谷歌云也在 GTC Berlin 2026 上与英伟达扩大共工程合作,继续在其云上提供英伟达 GPU。这揭示了一个正在成形的现实,超大规模云厂商不会在"自研芯片"和"英伟达"之间二选一,而是两手都要。AWS 有 Graviton 和 Trainium,Azure 有 Maia,谷歌有 TPU,但它们同时也在采购英伟达的最新 GPU。

谷歌的模块化策略,本质上是在把"依赖英伟达"这个单选题,改造成"按工作负载选硬件"的多选题。当客户可以在 TPU 8t 上训练、在 TPU 8i Max 上跑长上下文智能体、在 TPU 8tx 上处理敏感数据、在英伟达 GPU 上跑特定 CUDA 负载,英伟达就从唯一选项变成了选项之一。对云厂商而言,真正的胜利不是消灭英伟达,而是让英伟达变得"可选"。

这仍是一场战略宣示,而非规格宣示

必须给这股热潮泼一盆冷水。谷歌此次没有公布价格、上市时间、服务地区,也没有给出 TPU 8tx 和 8i Max 的绝对性能数字。甚至连今年 4 月发布的 TPU 8t 和 8i,官方口径仍是"2026 年晚些时候全面上市",目前尚未大规模出货。

这意味着,谷歌今天展示的是一条路线图,而不是一份成绩单。它能否真正撼动英伟达,取决于三件尚未兑现的事,定价是否有足够杀伤力,交付是否准时,以及第三方独立测试能否复现谷歌宣称的 2.7 倍训练提升和 80% 推理性价比改进。

另一个不确定性来自客户迁移成本。即便 TorchTPU 已经开源,把现有 PyTorch 工作负载从 CUDA 迁移到 TPU 仍需工程投入。对大多数企业而言,"能用"和"值得迁"之间,隔着一整套运维、监控和人才体系的重建。开源只是拆锁的第一步,真正的钥匙是生态。

谷歌在赌 AI 硬件的终局不是芯片,而是系统

把四款 TPU 放在同一年发布,谷歌赌的是 AI 硬件竞争的下半场规则。

上半场比的是单芯片算力,英伟达用 Blackwell 和 Rubin 领跑。下半场比的是系统级重组速度,谁能最快把训练、推理、安全、长上下文这些分化出来的需求,封装成客户当天就能买到的系统,谁就能在云厂商的采购清单里占据更多格子。

谷歌的模块化架构让它拥有英伟达难以复制的优势,英伟达每推一款新 GPU 都要经历完整流片周期,而谷歌可以在既有硅片上做封装、网络、内存和安全的排列组合。当 AI 工作负载的变化速度快于芯片迭代速度,这种"旧硅片 + 新系统"的打法反而更敏捷。

但这场赌局的胜负手不在谷歌手里。银行会不会把核心数据托付给云端的机密推理?开发者愿不愿意为 TPU 重写推理代码?超大规模云厂商会不会在自研芯片和英伟达之间找到真正的平衡点?这些问题,都要等价格、交付和第三方测试落地之后才有答案。

英伟达还在证明自己的芯片最快,谷歌已经开始证明,最快的不是芯片,而是把芯片重新组合成答案的速度。当 AI 硬件的竞争从"造一颗更强的芯"变成"搭一套更对的系统",卖铲子的人,正在被会搭积木的人重新定义。

作品声明:内容由AI生成