
Google Cloud 于周一推出了 TPU 8tx,这是一款支持机密计算的 AI 系统。Google 在发布文章中承诺,敏感数据和模型权重将“即使在使用过程中也能保持保护和隔离”,但并未提及任何受监管买家可用于核实该承诺的认证方法、威胁模型或独立审计。
据《Digital Daily》报道,Google 的 Mark Lohmeyer 在预发布媒体简报会上表示,该设计能够保护模型权重、提示词和企业数据,甚至防范系统运营商的访问。这引出了一个发布公告未回答的问题:如果客户自行运营机房,那么硬件所防范的“运营商”究竟是谁?
Google 还发布了另一款新系统 TPU 8i Max,并表示这是该公司首次在一年内推出四款 TPU 系统。
为何机密计算依赖认证而不仅是加密
数据通常在磁盘和网络传输过程中是加密的,但在处理器处理时必须在内存中解密。机密计算通过基于硬件的可信执行环境(TEE)来弥补这一差距,保护正在使用的敏感应用程序和数据免受底层主机和管理程序的侵害。
只有当客户能够确认该功能已开启时,这种保护才有意义。这种确认机制即为远程认证:硬件生成正在运行内容的签名证据,客户在释放密钥或数据之前检查这些证据。Google 自己在 6 月 23 日的文章中将其视为该技术的核心,描述远程认证是在处理敏感数据之前“以加密方式验证环境”的方法,并指出独立验证器 Intel Trust Authority 是一种在 Confidential Space 中“将认证验证与云服务提供商解耦”的方式。
该文章未提及 TPU,而 TPU 8tx 的文章也未提及认证。Google 仅表示 TPU 8tx 基于与 TPU 8t 相同的硅片构建,并搭配第五代 AMD EPYC CPU 主机,该系统提供“用于私有微调和安全代理执行的硬件级机密计算”。文章未命名底层的机密计算技术、隔离保证或任何认证。Google 还声称其延迟比 TPU 8t 低多达 2 倍,且“性能损失近乎为零”,但未定义该性能损失的基准。这些数据是 Google 自己的主张,而非独立基准测试结果。
《Digital Daily》报道称,Google 表示设计芯片需要数年时间,而将现有硅片与不同的内存、网络和安全组件重新组合,可以在数月而非数年内生产出新的系统。由于 TPU 8tx 搭配 AMD 主机使用,因此主机 CPU 的机密计算记录与 AI 系统的安全记录息息相关。
AMD 机密虚拟机保护此前是否曾被攻破?
是的,在特定条件下发生过。2026 年 1 月,CISPA 研究人员披露了 StackWarp(追踪编号为 CVE-2025-29943),这是一个允许拥有主机特权控制权的攻击者破坏 AMD SEV-SNP 保护的漏洞。《The Hacker News》报道指出,该漏洞影响从 Zen 1 到 Zen 5 的处理器,AMD 的受影响产品列表包括 EPYC 9005 系列部件,即第五代家族。该攻击会破坏机密客机的堆栈指针,研究人员报告称,攻击者可以从单个错误签名中恢复 RSA-2048 私钥。AMD 的公告列出了两个严重性评级:在 CVSS v3.1 下为 3.2(低),在 CVSS v4 下为 4.6(中),固件发布日期从 2025 年 6 月到 2026 年 2 月。
早期的研究也针对 SEV-SNP。2025 年 10 月,苏黎世联邦理工学院(ETH Zürich)的研究人员披露了 RMPocalypse(追踪编号为 CVE-2025-0033),该漏洞利用了初始化期间反向映射表(Reverse Map Table)保护不完整的问题。单次 8 字节写入即可破坏整个表,从而削弱 SEV-SNP 的完整性保证。
需注意两点。首先,Google 并未表示 TPU 8tx 使用 SEV-SNP,因此这些发现描述的是 Google 命名的主机 CPU 家族,而非确认的设计。其次,StackWarp 需要主机上的管理员级别攻击者,而这正是机密计算旨在防御的对象,因此该漏洞直接关系到“甚至防范系统运营商”这一主张。
客户自有数据中心改变了“运营商”的定义
Google 出售 TPU 系统供安装在客户设施中。《Digital Daily》报道,在 Alphabet 第三季度财报电话会议上,Google Cloud CEO Thomas Kurian 表示,公司直接向客户数据中心销售 TPU 系统以供安装,并与 Oracle 和 Crux AI 等提供商合作,因为某些行业无法将其设施内的数据迁移到云端。Alphabet 的 10-Q 收入确认附注描述了 TPU 系统的产品销售,其中包括硬件、软件、安装、支持和延长保修服务。
Google 的发布文章表示,客户现在可以将 TPU 直接部署到自己的数据中心中,但这被列为一般的 TPU 用例,而非 TPU 8tx 或 TPU 8i Max 的特定功能。
这一点很重要,因为硬件隔离承诺是由对手定义的。在 Google 云中,对手是拥有特权访问权的云运营商。在客户的数据中心中,特权管理员是客户自己的员工,而 Google 的维护和支持人员也可能需要访问权限。公告未说明该设计旨在排除哪些人,Google 的支持和保修服务如何在隔离环境中运作,或者受监管行业的客户是否可以在没有 Google 配合的情况下获得认证证据。10-Q 附注将安装、支持和延长保修描述为销售的一部分,但未描述安全访问权限。
TPU 8i Max 将两个推理芯片封装在一起
TPU 8i Max 旨在解决当数十个代理同时在整个代码库或数小时的视频中工作时出现的内存瓶颈。Google 将两个低延迟 TPU 8i 芯片组合在一个封装中,相对于 TPU 8i,计算能力、片上 SRAM 和高带宽内存(HBM)带宽均翻倍。由于两倍的硅片面积适应了现有的机架占地面积,Google 表示数据中心每平方英尺和每瓦特的计算能力有所提高。
Lohmeyer 将这种方法比作增加高速公路的车道:单个请求的运行速度不一定更快,但可以同时处理更多工作。《Data Center Knowledge》报道指出,他表示该封装拥有 384 GB 的高带宽内存,但 Google 的博客文章未列出绝对容量,因此应将该数字视为单一来源的主张。
软件旨在降低离开 Nvidia GPU 的成本
Google 将硬件与针对转换成本的软件相结合:
- TorchTPU: Google 开源了 TorchTPU,使 PyTorch 代码和 Hugging Face 模型能够在 TPU 上运行,vLLM 和 SGLang 也拥有 TPU 后端。
- TPU Sync: 在芯片 HBM、主机内存和共享存储之间分层 KV 缓存;Google 表示这将 KV 传输延迟和首令牌时间减少了 90% 以上。
- Agent Compute Engine: 挂起和恢复空闲会话,以便在代理等待时不占用计算资源。
- GKE 动态切片和 Cloud Pathways: Cloud Pathways 已在 Google Kubernetes Engine (GKE) 上全面可用;Google 表示动态切片可将启动时间缩短多达 5 倍,并将故障恢复速度加快多达 4.5 倍。
《Digital Daily》报道,在 GKE 上,客户可以设置策略在 Nvidia GPU 和 TPU 之间分配工作,例如在 GPU 容量耗尽时回退到 TPU 8i。
TPU 库存拖累 Alphabet 现金流,销售预测攀升
《Digital Daily》报道,Alphabet citing TPU 库存采购以及第三季度 514 亿美元的资本支出,作为自由现金流为负 91 亿美元的因素。该媒体还报道,Alphabet 预计第四季度 TPU 系统销量将上升,相关收入将从 2027 年开始大幅增长。彭博情报(Bloomberg Intelligence)预测,TPU 销售额将从今年的约 120 亿美元增长到 2028 年的超过 1350 亿美元,不包括通过 Google Cloud 租用的芯片。这只是预测,而非报告的销售数据。Oracle 曾表示,Google TPU 将于 2027 年在 OCI 上可用,并在多年内逐步采用。
Google 未披露关于 TPU 8tx 的信息
Google 的公告未包含两款新系统的定价、区域或可用日期。
对于受监管的买家而言,以下五项内容将解决大部分悬而未决的问题:所使用的机密计算技术、认证格式及谁可以进行验证、本地部署的威胁模型、对 Google 支持访问的处理方式,以及任何独立审计。在 Google 公布这些信息之前,TPU 8tx 的隔离承诺只是供应商的主张,而非买家可以核实的事实。
常见问题解答
什么是 Google TPU 8tx?
TPU 8tx 是一款基于 TPU 8t 硅片构建并搭配第五代 AMD EPYC CPU 主机的 Google Cloud 系统,Google 将其定位为供受监管的企业和政府进行安全和机密推理及小规模训练的系统。
公司可以在自己的数据中心运行 TPU 8tx 吗?
Google 表示直接向客户数据中心销售 TPU 系统,其博客将本地部署列为 TPU 的一个选项。Google 的发布文章未明确说明 TPU 8tx specifically 以这种方式提供,且尚未公布定价或可用日期。
客户如何验证机密计算是否真正起作用?
通过远程认证,硬件生成运行环境的签名证据,客户在释放数据或密钥之前检查这些证据。Google 描述了如何对其他机密产品进行环境加密验证,但其 TPU 8tx 发布文章未描述认证过程。
AMD 的机密计算技术曾受到攻击吗?
研究人员已发布针对 AMD SEV-SNP 的攻击,包括 StackWarp(CVE-2025-29943),这需要主机上的管理员级别攻击者,AMD 已发布微码和固件更新。Google 未表示 TPU 8tx 是否依赖 SEV-SNP。
- 收藏
- 点赞