首页 头条 电报 财讯 全球 研报 企业 研究院 人才 展会 百科
无需特征工程,NVIDIA Kumo Relational 在企业数据库预测中超越 XGBoost
来源:TechTimes 21 小时前 97

英伟达(NVIDIA)的AI芯片推动其市值达到2.72万亿美元,接近苹果公司的2.93万亿美元,这得益于人工智能应用和数据中心需求的激增。 Justin Sullivan/Getty Images

大型语言模型曾将文本处理领域彻底变革——把针对特定任务、需耗费大量人力构建的流水线压缩为单一的预训练模型——如今,这一变革于周三降临到企业关系型数据库领域。NVIDIA在Hugging Face上发布了Kumo Relational,开源了首个在广泛的关系型基准测试套件中击败全监督机器学习的少样本(few-shot)基础模型。该模型在15个关系型数据库的41项基准测试任务中,性能超越了表格机器学习领域长达十年的黄金标准XGBoost,且无需数据科学家构建任何自定义特征。

此次发布是NVIDIA据报道于2026年6月以4亿美元收购Kumo AI后的商业成果。Kumo AI由斯坦福大学教授Jure Leskovec联合创立,他在图神经网络方面的研究成果(包括广泛使用的node2vec和GraphSAGE算法)为Kumo Relational目前在生产规模上运行的架构奠定了大量基础。Leskovec随收购加入NVIDIA后,一直担任该公司杰出研究科学家一职。

驱动该模型的核心机制与使大型语言模型能够在不同语言任务中实现泛化的机制相同:上下文学习(in-context learning)。Kumo Relational无需为每个预测问题训练新模型,而是在单次前向传播中接受多达10,000条历史数据库记录作为上下文示例,并返回预测结果,且无需更新其权重。过去需要数周的特征工程和完整训练流水线的工作,现在只需一条声明式查询即可完成。

关系型数据缺失的基础模型

每家大型企业都依靠多表关系型数据库来运营其业务——订单与客户关联,交易与产品关联,医疗记录与患者病史关联。长期以来,利用这些数据进行预测需要一个劳动密集型的预处理步骤:将相互连接的表展平为单个宽表,并在训练任何模型之前手动构建诸如“30天平均订单价值”或“上一季度总购买量”等列。

这种展平操作会破坏信息。跨表的序列模式、客户重复互动的时间点、哪些产品在哪些订单中共同出现的图结构——所有这些信息都被压缩成不再携带原始关系信号的聚合统计量。而且,对于每一个新的预测任务,这个过程都要重新开始。企业机器学习团队对此做出了理性的反应:他们将机器学习投资限制在最高优先级的用例上,导致组织中大多数潜在有价值的预测——涉及每个业务部门、每条产品线和每个客户细分群体——都得不到解决。

Kumo Relational旨在改变这一局面。根据NVIDIA发布的评估报告,该模型是首个在广泛基准测试套件中超越监督机器学习的少样本关系型基础模型,其结果在涵盖电子商务、医疗、企业、社交和学术关系型数据库的五个独立基准系列中得到了证实。

Kumo Relational的工作原理:基于表的原生图注意力机制

该模型的核心创新是NVIDIA所称的“关系图Transformer”(Relational Graph Transformer)——这是一种三阶段架构,详细描述于2026年4月提交给arXiv的研究论文中——它直接在多表数据上运行,而不是先将其转换为扁平表示。

第一阶段自动生成上下文。对于时间预测任务,模型会回放历史数据库状态,采样以锚点时间戳为中心的实体子图,并根据该时间点之后发生的事件计算每个目标标签。这种设计防止了数据泄露——这是时间序列表格工作中一种有据可查的故障模式,即未来事件的信息通过构建不当的示例意外影响训练。

第二阶段是表内推理,使用一个轻量级网络,交替进行列注意力(关联列内的值)和行注意力(关联行内的特征)。此阶段学习哪些列和行与当前预测真正相关,并在向前传播任何信号之前过滤噪声。

第三阶段也是架构上最具特色的阶段,它利用主键和外键关系上的图注意力,并结合跨上下文示例的交叉样本注意力,将行嵌入分布在关系结构中。通过在行级嵌入而非单个单元格值上运行,系统避免了否则会使大表注意力在计算上不可行的二次缩放问题。NVIDIA报告称,该模型可扩展至5000亿行数据库记录。

这项工作有着直接的技术渊源。Veličković等人于2018年提出的图注意力网络(Graph Attention Networks)确立了在节点邻居上进行学习加权聚合的原则。Leskovec自己在2017年发表的GraphSAGE论文引入了图结构上的可扩展归纳学习,更广泛的GNN领域在此基础上发展起来。关系图Transformer将这一脉络扩展到了一个先前GNN研究大多避开的领域——企业关系型数据库。数据库的外键关系在结构上就是一个图;其洞见在于,专为图推理设计的模型才是数据库的自然架构,而非事后 retrofit(改造)上去的附加品。

预训练策略同样重要。真实的的多表关系型数据库很少有足够的公开数量来训练基础模型,因此NVIDIA使用了PluRel——一种来自ICML 2026的合成数据库生成器——它构建了逼真的多表数据库,包含外键链接聚类、时间趋势和跨表因果依赖。PluRel论文证明,随着合成数据库的增加,预训练损失遵循幂律分布,且收益可转移到真实数据库中。这种幂律缩放是零边际训练成本推理背后的经济机制:预训练只在合成数据上进行了一次,此后的每个预测任务都是一次查询。

大型语言模型的 playbook 如何在企业数据库上运行

与大型语言模型的架构平行并非营销比喻——它是具体的机制。大型语言模型之所以能在不同语言任务中泛化,是因为它们使用了类似GPT-3的上下文学习:给定提示中的示例,模型无需更新权重即可调整其输出。同样的机制在这里运作,只是转移到了结构化表格数据上。

在大型语言模型出现之前,生产环境的自然语言处理(NLP)需要为每个任务配备专用模型,每个模型都由自己的分词、词形还原和n-gram特征提取预处理流水线提供数据。单一的预训练Transformer使整个堆栈在很大程度上过时,因为它可以通过提示任何任务的示例并进行泛اوم。这与企业关系型数据的平行关系是直接对应的:在Kumo Relational出现之前,每个预测任务都需要自己的特征工程冲刺、训练运行和部署流水线。当单一预训练模型可以通过声明式语法查询任何关系型数据库时,那种认为只有最高优先级用例才值得投资的经济学论点就大大削弱了。

二阶影响涉及代理AI系统(agentic AI systems)。大型语言模型赋予了软件代理阅读、编写和推理文本的能力。结构化数据基础模型则赋予这些代理从企业数据库预测结果的能力——预测哪些客户将流失、哪些订单将延迟、哪些交易是欺诈性的——并自动根据这些预测采取行动。Kumo Relational的预测查询语言(PQL)明确设计为由代理调用:表达预测目标和相关表的查询会触发模型的完整流水线,包括上下文采样和跨表推理,无需任何额外代码。这使其成为主要云服务和软件供应商目前正在组装的代理企业堆栈中的候选组件。

基准测试显示什么:XGBoost在41项任务中落败

NVIDIA在源自RelBench V1、RelBench V2、SAP SALT、4DBInfer和RelArena-α的15个关系型数据库的41项任务上评估了Kumo Relational。评估数据均未出现在模型的预训练集中。

头条结果是:在RelBench V1分类任务中,Kumo Relational平均比在专家工程特征上训练的梯度提升树流水线高出近4个AUROC点。十年来主导表格机器学习竞赛和企业部署的XGBoost,在未进行任何自定义特征构建的情况下被直接超越。

在基于真实企业资源规划数据构建的SAP SALT基准测试中,Kumo Relational在未微调的情况下,其平均倒数排名(MRR)比大型AutoGluon集成模型高出8%,而在针对特定任务数据微调后,这一优势扩大到16%。与SAP SALT上的其他表格基础模型相比,优势约为25%。与同一基准测试中经过工程特征处理的XGBoost相比,Kumo Relational在未微调情况下高出7个MRR点,微调后高出13个MRR点。

在RelArena-α(由产生RelBench的同一研究社区提供的独立基准测试)上,Kumo Relational位于准确性-效率的帕累托前沿。唯一原始Elo分数更高的模型(rt-plurel)运行速度慢约430倍,每1000个样本的中位推理时间约为7,300秒,而Kumo Relational约为17秒。

该模型还展示了在模拟现实世界数据质量问题的条件下的鲁棒性。即使仅使用0.2%的可用上下文数据,性能依然保持;当高达75%的外键链接被移除时,性能保持稳定;在高噪声列数量下,性能仅适度下降。

Kumo Relational 在哪里会失效?

NVIDIA自身的文档明确指出了局限性。该模型在具有有意义关系和时间动态的数据上表现最佳——行为序列、交易历史以及关系结构携带真正预测信号的模式。在拥有非常大标记训练集的任务中,针对特定任务的监督模型仍可能优于上下文预测,后者在基准测试中限制为10,000个上下文示例。对于这些情况,建议对基础模型进行微调。

上下文上限是一个结构性约束:拥有10,000个示例的上下文学习能力很强大,但对于那些拥有数百万示例数据量的任务,经过训练的监督模型仍然是不同类别的系统。预测信号也必须能够从查询实体通过有限数量的关系跳数到达。NVIDIA建议从针对少数高度相关表的聚焦查询开始,然后逐步扩展关系图,而不是加载整个企业模式。

这些是诚实的约束,对于大多数企业预测用例来说并非致命缺陷。典型的目标——流失率、需求预测、欺诈检测、推荐——涉及数千到数万个相对较小的标记集,高昂的特征工程成本,以及正是该模型旨在处理的关系结构。

竞争领域迅速缩小

Kumo Relational进入了一个在过去一年中急剧压缩的研究领域。TabPFN-3背后的公司Prior Labs开发了TabPFN-Rel——一种通过自动SQL连接将TabPFN的单表预测应用于关系型数据的方法,没有原生图注意力——并向社区贡献了RelArena-α评估框架。Prior Labs认为,基于展平的基线一直被系统地低估,他们的方法比之前的基准测试结果所示更具竞争力。TabPFN-Rel目前在RelArena-α上按原始准确度得分位居榜首,尽管其推理时间远高于Kumo Relational。

原生关系型架构与经过良好调整的展平方法之间的争论反映了该领域尚未解决的一个更广泛的问题:数据库的预测信号有多少存在于其关系结构中,又有多少存在于可从该结构导出的聚合特征中。Kumo Relational的基准测试结果支持原生架构,但Prior Labs的立场——即做得好的自动化展平具有竞争力——可能会引发持续的研究活动。

图灵奖得主、麻省理工学院数据库系统研究员Michael Stonebraker认为,企业AI面临基准测试社区低估的结构性挑战:真实生产数据库中的模式损坏、预训练模型未经微调无法学习的特定领域业务概念、跨越四五个表的深层连接(超出评估基准通常测试的范围),以及限制可用训练数据的访问控制要求。Stonebraker最尖锐的批评适用于基于LLM的Text-to-SQL方法;Kumo Relational的原生关系型架构——将表保留为表而不是转换为语言——更符合他认为关系模型应作为基础的观点。生产部署是否能在大规模上验证基准测试结果,仍然是一个悬而未决的问题。

可用性、许可和部署

截至今天,Kumo Relational可通过多种途径访问。structured-data-models Python库在Apache 2.0许可下发布,可在GitHub上获取,支持内存推理、数据库和数据仓库连接器,以及带有内存映射输入/输出的自定义图引擎,速度高达5 GB/s,适用于超过5000亿行的数据库。

模型权重在Hugging Face上根据OpenMDW许可协议(1.1版)发布,允许在NVIDIA限制下进行商业使用。企业部署可以使用NVIDIA NIM推理微服务,将其容器化为独立服务,并通过配套的Python客户端访问,支持分类、回归、预测和时间链接预测。

预测任务通过PQL表达,无需编写任何预处理代码。预测每个用户30天订单数量的查询只需要预测窗口、相关表和实体标识符——上下文采样、时间泄漏预防和跨表推理均自动处理。云笔记本涵盖了Databricks和本地NIM上的端到端流水线,以及完整的基准复现。

有数据驻留要求的组织应注意,Python库和NIM选项均支持完全本地部署:推理期间数据不会离开客户的基础设施。

常见问题解答

什么是关系型基础模型,它与标准表格机器学习有何不同?

关系型基础模型是一种预训练神经网络,直接在多表关系型数据(典型企业数据库的链接表)上运行,无需先将其转换为扁平的单表格式。标准的表格机器学习方法,包括XGBoost和AutoGluon,需要一个称为特征工程的预处理步骤:将多个链接表展平为一个宽表,并手动构建总结关系信号的聚合列。关系型基础模型完全跳过这一步骤,通过图注意力对表关系进行推理,并从历史上下文示例中通过单次前向传播产生预测。对于企业数据科学团队而言,实际差异体现在每个预测任务节省的数周劳动力上,且无需针对特定任务进行训练。

Kumo Relational 与 TabPFN 及其他表格基础模型相比如何?

主要的架构差异在于原生多表支持。TabPFN-3和TabPFN-Rel(来自Prior Labs的主要竞争系列)在单个扁平表上运行;处理多表关系型数据需要自动SQL连接,Prior Labs将其作为外部预处理步骤提供。Kumo Relational直接在主键和外键关系上使用图注意力,无需展平即可跨表推理。在SAP SALT企业基准测试中,Kumo Relational在未微调的情况下,其平均倒数排名比竞争对手基础模型高出约25%。RelArena-α排行榜显示,按原始准确度得分最接近的竞争对手运行速度慢约430倍。竞争格局正在迅速演变——Prior Labs认为经过良好调整的展平方法被系统性低估,这场辩论可能会推动该领域的持续进步。

Kumo Relational 能否取代大型企业数据集的 XGBoost 流水线?

对于拥有大型标记训练集(数百万示例)的数据集,包括XGBoost流水线在内的针对特定任务的监督模型仍具有竞争力,NVIDIA的文档建议在这些情况下对基础模型进行微调,而不是仅仅依赖零样本上下文预测,后者限制为10,000个历史上下文示例。Kumo Relational显示出最明显优势的用例是标记集较小(数千到数万个示例)、特征工程成本高且在多个链接表之间具有有意义关系结构的场景——这描述了目前因工程开销过高而未得到解决的大多数企业机器学习用例。在RelBench V1分类任务中,它在没有任何自定义特征构建的情况下,平均比XGBoost高出四个AUROC点。

Kumo Relational 是完全开源的吗,公司可以商业使用吗?

structured-data-models Python推理库在Apache 2.0许可下开源。模型权重在Hugging Face上根据OpenMDW许可协议1.1版发布,允许受NVIDIA条款约束的商业使用——这是一个源代码可用的商业许可,而非完全开源许可。通过NVIDIA NIM部署的企业用户需遵守NVIDIA的企业许可条款。有严格数据驻留要求的组织应注意,Python库和NIM选项均支持完全本地部署:推理期间数据不会离开客户的基础设施,这解决了云托管AI服务常见的企业合规担忧。

  • 收藏
  • 点赞