
图片来源:MirageC / Getty Images
随着Google寻求降低其云计算业务对其他公司制造芯片的依赖,该公司正不断提升其芯片制造能力。周一,Google发布了其张量处理单元(TPU)的两个新变体。TPU是Google自主研发、专为AI工作负载设计的芯片,此次发布将其芯片产品组合扩展至更多应用场景:机密推理以及针对大型工作负载提供更大的内存容量。
新款芯片TPU 8tx和TPU 8i Max属于今年4月推出的第八代芯片系列,并在前代产品提供的更强推理能力和对大型训练需求的支持基础上进行了升级。
Google在一篇博文中表示,TPU 8tx是与AMD合作设计,基于TPU 8t芯片打造,专门用于机密地训练和运行AI模型。该公司写道,这款芯片“将安全性直接构建在硬件层中,即使在使用过程中也能保护敏感数据和模型权重,使其免受侵害并保持隔离状态”。
该芯片还配备了一个定制推理网络,使其能够同时进行推理和训练,从而可以即时提炼和训练小型模型。据Google称,这种能力对于那些希望利用自有数据训练模型、而无需在不同设备间传输数据的企业来说,可能非常有用。
与此同时,TPU 8i Max基本上将公司在4月推出的两款专注于推理的TPU 8i芯片合二为一,在单个封装中将内存容量、处理能力和带宽增加了一倍。其结果是,这款芯片让AI模型在查询过程中能够处理更广泛的信息。
此次芯片发布之际,微软、亚马逊等超大规模云服务商,以及OpenAI和Anthropic等AI实验室,纷纷致力于开发自己的AI专用半导体及配套软件,以减少对Nvidia主导地位的依赖。
这一消息也恰逢Nvidia处于一个特别脆弱的时刻。上周末,Nvidia首席执行官黄仁勋承认与一名被指为中国间谍的人有染。