谷歌、亚马逊,以及如今的OpenAI,都推出了颇具竞争力的AI芯片,并正在抢占市场份额。按制造商划分,GPU目前占全球已安装AI计算容量的70%,其余30%为定制芯片,主要来自谷歌和亚马逊。

图1:当前全球已安装AI计算容量(按制造商划分)。来源:Epoch.ai
过去三年,全球已安装AI算力增长至原来的17倍。2023年,英伟达份额高达90%,谷歌仅占10%;三年过去,定制AI计算已抢下约20个百分点的份额。这一趋势会持续下去吗?(注:Epoch的数据未计入Meta、微软和Cerebras的AI算力,这几家体量相对较小。)
本文先看英伟达强大的产品阵容与近期的强劲增长预测;再审视超大规模云厂商与前沿模型开发商自研芯片的进展与优势;最后探讨在定制芯片性能逼近、竞争加剧的背景下,英伟达和AMD可以采取哪些举措守住份额。
英伟达:需求强劲,系统阵容完整
英伟达于8月26日发布财报,黄仁勋当天在接受CNBC采访时透露了以下要点:
•需求极其强劲,且仍在加速,令人难以置信;
•预计下一财年增长70%(受供应限制);
•AI现在正在为所有人赚钱,所以每个人都想要更多算力;
•一半业务来自超大规模云厂商,另一半来自Neocloud、主权客户等所有其他客户;
•GPU具有通用性,可在整个生命周期内使用,并运行所有模型;
•云服务商反馈,五年前购买的AI算力如今更加值钱;
•AWS将采购200万块GPU和数百万颗(Vera)CPU。
至于OpenAI的Jalapeño和其他竞争芯片,黄仁勋在接受《Mad Money》采访时回应:“我没问题。市面上有那么多XPU在发布,很多项目启动了,也有很多项目被取消了。我们会全力支持我们的合作伙伴。”
英伟达每一代新GPU的能效都远超前代。而且,英伟达提供的远不止GPU:NVL72纵向扩展网络、机架、低延迟推理方案(Groq 3 LPX)、面向智能体优化的Vera CPU、BlueField DPU,以及Spectrum-6 SPX横向扩展网络——所有组件协同设计、协同工作,带来远超单靠GPU的性能提升。在Hot Chips 2026上,英伟达围绕各类新芯片发表了五篇论文,约占全部论文的五分之一。
英伟达还在会上披露了Vera CPU的细节。Vera采用大得多的单线程核心,专为AI智能体的低延迟计算而优化。据该公司估计,其智能体工作负载性能可达传统CPU的1.8倍。
Vera Rubin已全面进入量产爬坡,整机机架已在CoreWeave、谷歌云、微软Azure、甲骨文云和Nebius投入运行。结合英伟达强劲的收入增长与明年再增70%的预测,Vera Rubin的量产爬坡有望在2026—2027年提升其在全球已安装AI算力中的份额。Hot Chips上,英伟达展示了Vera Rubin相对GB300的帕累托性能(见图2)。

图2:Vera Rubin NVL72在DeepSeek-v4-PRO上的性能与GB300对比。来源:英伟达/Hot Chips 2026
电力是数据中心最稀缺的资源之一,因此运营商追求更高的TPS/MW(每瓦吞吐量);同时,许多客户希望超大模型也能实现极快响应,即更高的TPS/user(每用户吞吐量)。Vera Rubin两者兼得。交互性越高、价值越高,因此Vera Rubin相对GB300的优势恰恰在价值最高的场景中最为显著——高达30倍。这既源于众多GPU层面的创新,也离不开Vera这类配套创新。
去年,英伟达获得Groq的LPU技术授权并吸纳其团队,使LPU可作为协处理器与Vera Rubin协同工作,为最有价值的工作负载提供更快的低延迟响应。Hot Chips上,英伟达详细介绍了LPU的架构与编程,并展示了LPU与GPU协同的多种方式。如下方基准测试所示(此处使用GPT-OSS-2T而非DeepSeek),Vera Rubin+LPU大幅降低了推理延迟,显著提升了TPS/user。

图3:LPU与Vera Rubin配合,同时提升TPS/MW和TPS/user。来源:英伟达/Hot Chips 2026
AMD MI455X与Helios
AMD围绕最新GPU和Helios机架进行了两场演示,性能规格较此前产品大幅跃升:纵向扩展域现已支持72块GPU,采用博通以太网交换机;Helios则是完整的机架级系统,与英伟达一样为客户提供一站式解决方案。短短几年间,AMD进步显著,全球已安装份额从0%升至6%。略有遗憾的是,AMD并未给出任何AI工作负载的性能数据。
自研芯片:模型开发商握有优势
Hot Chips上,Meta、微软和谷歌详细介绍了各自的下一代AI加速器;OpenAI则首次公开了其AI推理加速器Jalapeño,效果令人印象深刻。超大规模云厂商和前沿模型开发商承载着海量工作负载,自然希望把更多负载迁移到自己优化的芯片上。
模型开发商握有天然优势:他们比GPU厂商更了解自身工作负载,清楚训练与推理的比例,更清楚瓶颈所在和自己的战略方向;凭借庞大的已安装算力,也有条件对现有芯片、在研芯片特性乃至英伟达芯片进行详尽的基准测试。
在超大规模云厂商和模型开发商的总计算负载中,相当比例由自有模型消耗(含训练与推理服务);谷歌和亚马逊还一直在向客户提供、甚至直接销售TPU/Trainium,以推动云客户的工作负载从GPU迁移过来。
随着超大规模云厂商、OpenAI和Anthropic部署的算力规模增长了一个数量级,针对特定工作负载定制芯片已经具备经济性——第一步就是区分专用训练芯片与专用推理芯片。几年前,开发两款芯片的增量成本可能超过1亿美元(其中掩膜、工具和团队费用即超3,000万美元),令人望而却步;但在今天的规模下,如果优化后的芯片能以10%~30%的硅面积缩减,换取10%~30%的吞吐量/瓦提升,这笔投入就完全划算——毕竟在当前供应受限、且很可能延续到2030年的环境中,电力和晶圆才是最稀缺的资源。
OpenAI Jalapeño:首作即似可与Vera Rubin匹敌
Jalapeño是OpenAI的首款芯片,表现令人印象深刻。Jalapeño由一个小团队在短时间内开发完成,并大量借助OpenAI自己的AI工具提效。它针对OpenAI自身工作负载做了优化,但同样能运行任意模型用于推理。团队决定同时针对预填充和解码进行优化,并将KV Cache内存保留在本地。
他们指出,HBM内存的原始容量本应支撑更高的token速率,因此架构设计着力消除瓶颈,以充分释放HBM容量;团队预计每一代都会更进一步(第二代已在研发中)。
网络方面,他们采用博通Tomahawk 6交换机构建由128颗Jalapeño组成的域,再用更多Tomahawk交换机构建由2,048颗Jalapeño组成的全局域。
Jalapeño已测试数月,OpenAI分享了多项基准测试结果。

图4:DeepSeek在Jalapeño与英伟达GB300上的性能对比。来源:OpenAI/Hot Chips 2026
由于测试时间有限,Jalapeño的基准全部采用单token预测(STP);未来引入多token预测(MTP)后,性能有望再提升3~5倍。他们对GPT-OSS、DeepSeek R1和Kimi K2.5进行了测试,并与GB300的STP、MTP结果对比——Jalapeño在所有场景下都显著领先。
Jalapeño与Vera Rubin NVL72相比又如何?英伟达的演示显示,Vera Rubin比GB300快2~30倍(低交互性下2倍,极高交互性下30倍)。将GB300曲线按相应幅度平移,即大致接近Jalapeño的表现——据此粗略推断,Jalapeño足以与Vera Rubin一较高下。Hot Chips之后,SemiAnalysis发布分析,同样认为Jalapeño与Vera Rubin不相上下。
Anthropic:组建自研芯片团队
Anthropic近期为自研AI芯片项目聘用了OpenAI硬件团队的关键成员Clive Chan,并公开证实正在组建内部芯片团队、为Claude设计定制芯片,称这是“我们多芯片方案的最新一步”。
谷歌TPU 8t与8i
谷歌深耕AI计算已有十年:第一代TPU于2015年推出,面向推理;第二代TPU开始支持训练。此后,谷歌在训练与推理之间持续优化,通常隔年交替发力。
如今,谷歌同时推出面向训练的TPU 8t和面向推理的TPU 8i。业务规模增长了一个数量级,使并行开发两款芯片的成本变得可以承受,而充分利用稀缺电力与晶圆的回报也极具吸引力。TPU 8代性能约为前代的两倍。

图5:TPU 8i因配备更多HBM,尺寸为TPU 8t的1.4倍。来源:谷歌/Hot Chips 2026
8i与8t的尺寸之差,直观体现了专用化带来的节省:若一颗芯片要兼顾推理与训练,可能需要比TPU 8i再大10%~20%,以容纳训练所需的全部反向传播逻辑。
TPU的主要用户包括Anthropic、OpenAI、Meta和苹果。
摩根士丹利最近估计,谷歌TPU销售额今年下半年将达90亿美元,2027年达840亿美元,2028年达1,080亿美元——相当可观。作为参照:英伟达最近一个季度营收960亿美元,预计下一季度达1,080亿美元,其中约90%来自数据中心业务。
谷歌云服务于极为广泛的客户与工作负载,其中许多仍将继续使用或需要英伟达GPU,但谷歌云正积极引导他们迁移至TPU。
Hot Chips 2026上的其他定制加速器
Meta的首款AI推理加速器MTIA用于加速Facebook、WhatsApp和Instagram背后的推荐系统模型。Meta指出,GPU并不适合其工作负载——其中包含数TB的稀疏嵌入表和大量内存受限操作。第二代加速器MTIA 300专为训练推荐模型设计,目前在大批量训练中的每美元性能已略高于GPU;MTIA 400正在研发中,面向生成式AI与推荐系统。Meta的路线图显示,大约每六个月就会推出更多芯片。Meta最了解自身工作负载与瓶颈,因此能设计硬件精准发力。
与此同时,Cerebras发布了CS-4:token/用户速度为上一代CS-3的2倍,吞吐量/瓦最高可达10倍,这对追求最低延迟推理的客户极具吸引力。该公司表示,CS-5将在一年内让性能再翻倍,CS-6则会在下一年借助3D堆叠DRAM再翻一番。

图6:Cerebras CS-4在容量增至10倍的情况下,将低延迟TPS/用户提升一倍。来源:Hot Chips 2026
此外,微软、SambaNova和D-Matrix也展示了各自的最新AI计算芯片。
GPU厂商如何守住份额?
英伟达每年在技术研发和产品迭代上的投入已超过任何一家定制AI芯片开发商,强劲的收入增长还将带来更充裕的现金。
英伟达正以资本锁定供应。在最近的财报电话会议上,该公司管理层表示供应承诺已从1,190亿美元增至2,790亿美元,翻了一倍多。凭借与台积电的稳固关系以及在内存采购上的雄厚财力,英伟达很可能在未来几年内保持主导供应商地位,最大限度获取稀缺资源。
即便如此,英伟达仍受供应约束。正如其CFO在财报电话会上所言,若无供应限制,明年70%的需求增长可能会更高。供应端最大的瓶颈,可能是台积电的晶圆分配和HBM供应。
对此,英伟达可以分别推出专用训练芯片与专用推理芯片,更充分地利用稀缺资源;以其打造复杂芯片的能力,甚至可在两者之外再保留一款通用GPU。
AMD则可以考虑收购Cerebras(其市值仅为AMD的十分之一),为需要超低延迟推理的客户提供类LPU方案;或者,Etched等众多AI算力初创公司之一,也可能以更低成本提供类似能力。
谷歌表示,OCS(Optical Circuit Switching,光电路交换)是其优势的重要组成部分。英伟达和(或)AMD可以引入OCS,改进各自的横向扩展乃至纵向扩展网络。当前铜互连已逼近极限,GPU性能的进一步提升离不开光互连;超大规模云厂商态度谨慎,预计会优先采用风险较低的NPO,但NPO无法企及CPO的性能水平。英伟达和(或)AMD若能率先将CPO集成到GPU上,便可提供竞争对手难以匹敌的性能。(利益披露:笔者分别任职于某OCS公司和某光引擎公司的董事会。)
模型开发商因亲自开发模型,在构建推理方面更具优势。英伟达已投资开发Nemotron等开放权重免费模型——在Open Router最常用免费模型榜单中占据前四名中的三席;最近还与Poolside达成70亿美元的交易,获得其开放权重模型授权,并吸纳其逾百名工程师。免费模型并不直接创收,黄仁勋想必是看中了其中蕴含的洞察力与客户参与度。
结论
英伟达拥有强大的护城河,但它面对的也是资源极其雄厚的客户。随着晶圆和HBM供应在2~5年内超过需求,英伟达(以及AMD)面临的真正挑战将是:部分客户有能力开发并使用自研AI算力来运行自有工作负载。
Anthropic和OpenAI的工作负载100%属于自己;谷歌和Meta的负载可能大部分自有;亚马逊和微软的负载则主要来自其客户。英伟达和AMD必须继续全力奔跑,才能跑赢客户的自研芯片雄心。如果Jalapeño最终在生产部署中被证实与Vera Rubin相当(甚至更好),那将对GPU阵营敲响重大警钟。
参考链接:https://semiengineering.com/can-gpus-continue-to-dominate-ai-compute/
(校对/赵月)
- 收藏
- 点赞
- 英伟达联合思灵推出人形机器人参考平台 Agile ONE SN,计划 2027 年初上市
- 打电话、传数据,还能跑AI,英伟达联手诺基亚改造通信网络
- 英伟达扩大欧洲自动驾驶合作,Bolt计划部署至少2.5万辆Robotaxi
- 英伟达扩展机器人平台,人形机器人参考平台计划明年初推出
- 英伟达黄仁勋称未来电信运营商都将提供 AI 算力,电信基站有望发展成分布式 AI 网络
- 奔驰与英伟达合作开发城市辅助驾驶系统 MB.DRIVE ASSIST PRO,计划年底在德国向部分用户开放
- 英伟达发布OpenShell参考架构,称可毫秒级阻止AI智能体越权
- 英伟达发布DSX POD,AI工厂现场部署最快从六个月缩短至14天