AI 工厂的战争,正在从芯片打到编排层。
2026 年 11 月 10 日,盐湖城,KubeCon + CloudNativeCon 北美大会。英伟达在这里一次性抛出了三组动作:把智能体安全运行时 OpenShell 捐给 CNCF Sandbox;向谷歌主导的 Agent Substrate 贡献代码,并让它与自家的 Dynamo 推理调度、KAI Scheduler 资源分配打通;再给 NVIDIA DSX AI Factory Platform 补上三块新开源组件——NVIDIA Kubernetes Engine、NVIDIA Kubernetes Recipes 和 NVIDIA Snapshot。
表面上看,这是一家芯片公司向开源社区示好。但把这三件事放在一起,能看到一条更清晰的线:英伟达正在把竞争的主战场,从 GPU 芯片本身,上移到“AI 工厂”的编排层。它不再满足于卖给你算力,它要定义算力之上那一整套怎么跑、怎么管、怎么安全的规则。
而这一次,它选择用开源的方式把规则定下来。
现象:KubeCon 上的一石三鸟
Kubernetes 这套开源系统,原本管的是应用怎么在成千上万个集群里跑。到了 AI 工厂时代,它管的是模型、智能体、推理服务怎么在 GPU 集群上跑。需求变了,对 Kubernetes 的要求也变了。
英伟达的应对,是沿着治理、规模、底座三层同时出手。
治理层,OpenShell 是一个开源运行时,用来给自主智能体提供安全的运行环境,并对智能体的行为施加确定性控制——智能体调用什么工具、访问哪个推理服务、执行什么工作负载,都可以被策略约束。官方披露,它已经落地数百家机构,上线不到一年收获了数万次贡献。现在它被捐给 CNCF,由 Linux Foundation 旗下的 CNCF 托管,交由使用它的组织和全球安全专家共同治理。
规模层,光管住智能体还不够,还得能把它们大规模跑起来。Agent Substrate 是谷歌主导、已进入 CNCF Sandbox 的开源框架,专门解决长时智能体工作负载在 Kubernetes 上的规模化问题。英伟达的贡献,是让它能跟 Dynamo 和 KAI Scheduler 协同,把智能体执行、推理服务和集群资源调度三件事在 Kubernetes 上捏到一起。
底座层,AI 工厂既要给客户提供托管的 Kubernetes 服务,又要保留对自己基础设施、软件和客户体验的控制权。NVKE 和 NVKR 提供在 GPU 基础设施上交付托管 Kubernetes 服务的开源构建块,目前处于公开预览阶段;Snapshot 则让初始化后的 GPU 工作负载可以在推理副本之间复用,把启动和恢复压缩到秒级。
这三层合起来,指向同一个目标:让 Kubernetes 成为大规模 AI 工作负载的首选底座。
为什么是 OpenShell:智能体的“笼子”成了新瓶颈
智能体最大的风险,不是它不够聪明,而是它太能干了。
一个自主智能体会调用工具、读写文件、执行代码、访问外部服务。如果它运行在一个没有边界的容器里,一次越权调用就可能演变成生产事故。过去这一年,智能体从演示走向生产,企业最先撞到的墙不是模型能力,而是“怎么让它在安全的环境里干活”。
OpenShell 解决的就是这个“笼子”问题。它给组织提供对智能体行为的控制权,通过确定性控制 enforce 策略,并且架构可扩展——企业可以接入自己的算力提供商、推理提供商、凭据存储和监控工具。这意味着治理可以跨不同的部署环境实施,同时跟现有企业系统集成。
云原生社区面临一个新的基础设施挑战:给智能体提供安全的运行环境。英伟达把 OpenShell 捐给 CNCF,给了开发者一个可以共同构建的基础,也给了大家塑造智能体安全演进方向的机会。
说这句话的是 Linux Foundation 首席执行官 Jim Zemlin。潜台词很直白:智能体安全不该是任何一家厂商的黑盒。当智能体开始自主行动,安全基础设施必须变成公共品——因为如果每家都搞一套私有运行时,跨云、跨环境的治理就无从谈起。
英伟达把 OpenShell 开源,等于主动放弃了在这层收“安全税”的可能。它换回来的是更大的东西:成为智能体安全标准的共同制定者。
Agent Substrate:把闲置的算力抢回来
管住智能体只是问题的一半。另一半是,智能体太浪费了。
AI 智能体大部分时间都在等——等人类提示、等工具返回、等模型响应。传统 Kubernetes 的做法是为每个会话跑一个 Pod:要么让 Pod 一直热着,那就为几乎不做事的会话付算力钱;要么每次用完就删,那每次都要承受数秒的冷启动,还丢掉智能体的状态。
Agent Substrate 换了一种思路。它在 Kubernetes 之上跑一层控制面,把大量的“actor”(智能体和它们的环境)映射到一小批随时待命的 worker Pod 上。智能体空闲时,连同内存和文件系统一起被 checkpoint;下一个请求到来时,再恢复到任何一个空闲的 worker 上。
英伟达官方技术博客给出的数字是:相比标准容器,Agent Substrate 能以 10 倍的密度安全运行数百万个智能体和工具。
这 10 倍密度,对 AI 工厂的账本意义重大。推理和训练的 GPU 已经贵得离谱,如果 CPU 侧的智能体环境再大量闲置,整体拥有成本会进一步失控。把闲置算力抢回来,本质上是在不增加硬件投入的情况下挤出更多有效吞吐。
更关键的是协同。Agent Substrate 管理智能体环境,Dynamo 负责跨 GPU worker 协调推理,KAI Scheduler 负责把 worker Pod 放到 GPU 训练器和推理服务旁边。Dynamo 还会把“预计首 token 时间”“GPU 池饱和度”这类推理信号回传给 Substrate,让它决定是让某个 actor 保持驻留、在长等待时挂起,还是在模型响应快完成时提前恢复。
这套联动意味着:智能体执行、推理、资源调度不再是三个孤岛,而是一个能互相感知、互相配合的闭环。
Snapshot:把 GPU 冷启动从分钟压到秒
AI 工厂还有另一个隐痛:冷启动太慢。
当推理需求突增或某个副本故障时,可用的 GPU 并不会立刻转化为服务能力。初始化一个 LLM 工作负载——业内叫 cold start——往往要几分钟:加载模型权重、编译、捕获 CUDA 图,一套流程走完,流量早就流失了。
Snapshot 的做法是 checkpoint 加 restore。工作负载完全初始化后,把 CPU 和 GPU 内存状态一起抓成一个可移植的 artifact;需要扩容或恢复时,直接把状态还原到兼容的节点上,跳过重复的初始化。官方测试数据显示,从 Snapshot artifact 恢复推理副本,耗时在 3.6 秒到 42.7 秒之间,相比冷启动有 8 倍到 36 倍的加速;创建 checkpoint 本身需要 15 秒到 5.5 分钟,但在所有测试配置里,checkpoint 加 restore 的总时间都短于一次冷启动。
它还支持多 GPU 工作负载,覆盖张量并行、数据并行、专家并行和解码上下文并行,最大支持跨 8 张 GPU、1TB 的 checkpoint。这些测试跑在 NVIDIA B200 GPU 和 VAST NFS 存储上。
对按秒计费的推理服务来说,这不是体验优化,是真金白银的成本账。
DSX 三件套:英伟达要的是 AI 工厂的“操作系统”
如果只看到开源,会漏掉这则新闻里更重的一条线。
NVKE、NVKR、Snapshot 这三个新组件,都属于 NVIDIA DSX AI Factory Platform。DSX 是什么?用英伟达自己的话说,它是 AI 工厂的软件栈——从 GPU 基础设施、Kubernetes 管理,到工作负载编排和模型服务,一整套。
NVKE 和 NVKR 解决的是“怎么交付托管 Kubernetes 服务”。NVKR 从版本锁定的源码构建可复现的节点镜像、容器镜像和软件包;NVKE 则通过这些制品,在管理集群上运行的 REST API 和控制器来供应和管理 Kubernetes 集群。它们目前处于公开预览阶段,以开源项目形式放在 dsx-ai-factory 的 GitHub 组织下。
Snapshot 解决的是“怎么让 GPU 工作负载秒级启停”。初始化后的 GPU 工作负载往往要加载模型、预热缓存、建立连接,这一套下来可能几分钟。Snapshot 让这些初始化状态可以在推理副本之间复用,启动和恢复被压缩到秒级。
把这三件事和 OpenShell、Agent Substrate 放一起看,英伟达的意图就很清楚了:它要在 AI 工厂的每一层都留下自己的印记——芯片之上是 Kubernetes,Kubernetes 之上是智能体运行时和调度,再之上是模型服务。
而它选择的方式不是封闭,而是开源。
为什么英伟达敢这么玩
这其实不是英伟达第一次用开源巩固护城河。CUDA 是私有的,但围绕 CUDA 的工具链、库、框架生态极度开放。开发者一旦习惯了这套生态,迁移成本就高得惊人。
这次在 AI 工厂层,逻辑类似,但赌注更大。
AI 工厂的核心矛盾是:客户既要托管服务的便利性,又要对基础设施的控制权。如果英伟达能提供一套开源的、可审计的、社区共同治理的栈,让客户既能跑托管 Kubernetes,又不被单一厂商锁死——那客户就更愿意把 AI 工厂建在英伟达的 GPU 上。
换句话说,开源不是放弃护城河,而是把护城河从“代码封闭”换成“生态依赖”。当 OpenShell 成为智能体安全的默认选择,当 Agent Substrate 成为智能体调度的事实标准,当 NVKE/NVKR 成为托管 Kubernetes 的构建块,开发者和合作伙伴的集成成本就会越来越高。
这时候,GPU 卖得好不好,已经不完全取决于芯片性能,而取决于整条栈的粘性。
还有一个细节值得玩味。负责 NVIDIA Kubernetes Engine 工程团队的 Erin Boyd,此前在 Red Hat 担任 CTO 办公室杰出工程师,还曾在 CNCF 技术监督委员会和管理董事会任职。负责产品的 Eric Chapman 则来自 AWS,做过 Amazon EKS。把这两个人放在这个位置上,英伟达要传递的信号很清楚:我们不是来 Kubernetes 社区抢地盘的,我们是来共建的。
谁会赢,谁危险
这场赌局里,最直接的受益者是云原生生态。CNCF 一下子拿到了智能体安全、智能体调度、GPU 工作负载管理三块关键拼图,Kubernetes 作为 AI 底座的话语权进一步巩固。
对开发者来说,最大的好处是选择权。OpenShell 开源后,企业不必再在“用厂商黑盒”和“自己造轮子”之间二选一;Agent Substrate 与 Dynamo、KAI Scheduler 的打通,让跨云、混合部署的治理成为可能。
危险的一方,是那些指望在智能体运行时和调度层收封闭税的厂商。当安全治理和规模化调度都变成社区项目,单一厂商很难再靠私有协议圈地。它们要么跟进开源,要么就得拿出真正不可替代的差异化能力。
还有一个潜在变量:谷歌。Agent Substrate 是谷歌主导的项目,英伟达是重要贡献者。两家在 AI 基础设施上既是对手又是伙伴——谷歌有 TPU,英伟达有 GPU;但在让 Kubernetes 成为 AI 底座这件事上,双方利益一致。这种竞合关系能维持多久,取决于 AI 工厂的利润最终流向芯片层还是编排层。
结语
英伟达把 OpenShell 捐给开源,看似退了一步,实则进了一步。它放弃的是智能体安全这一层的独占权,换来的是定义 AI 工厂规则的话语权。
AI 工厂的战争,从来不只是芯片的战争。谁掌握了编排层,谁就掌握了算力之上的定价权。
当智能体开始在 Kubernetes 上大规模奔跑,英伟达已经提前站在了跑道的内侧。






快报