英伟达把 120B 多模态模型塞进开源:从数据中心到桌面的 Nemotron 突围

2026.10.16 20:09
2026 年 10 月 15 日,英伟达发布 Nemotron 3.5 Super VL(1200 亿参数、激活 120 亿)及两款 Bolt 边缘模型,首次用开源模型家族覆盖从数据中心到桌面边缘的全部 agent 部署层级。Super VL 单 GPU 吞吐量达同类开源模型 5 倍,Hermes Bench 63.44% 超过 Ultra,却以 26 分的综合智能指数主动放弃通用模型之争,转而用可定制、可私有化部署的“半成品”策略绑定企业工作流。配合收购 Hugging Face 的分发渠道,英伟达开放的是权重,锁住的是整个生态。

黄仁勋手里最锋利的那把“开放”铲子,正在从数据中心往桌面和边缘伸。

2026 年 10 月 15 日,英伟达发布 Nemotron 3.5 Super VL,一个 1200 亿参数、每次推理只激活 120 亿参数的开源多模态模型。官方口径很直接,它是同类开源模型中最快的 agentic 模型,单 GPU 吞吐量最高可达竞品的 5 倍。同场登场的还有两款边缘模型,Bolt 74B-A9B 24GB 已经上线,Bolt E4B 4GB 定档 10 月 23 日。

这不是单纯的技术迭代。它意味着英伟达的开放模型家族第一次完整覆盖了从大型服务器到边缘设备、再到本地 PC 的全部部署层级。任何想在英伟达基础设施上跑 agent 的组织,现在可以按自己的部署层级选一个开源、可定制、可监督的模型,而不必在“能力”和“可部署性”之间二选一。

真正的矛盾藏在后半句。当 OpenAI、Anthropic 的闭源 frontier 模型还在拼通用智能的天花板时,英伟达选择了一条更务实的路线,把模型做成可以被客户私有化改造的“半成品”,用开放权重换生态控制力。

120B 的模型,只要五分之一的算力

Super VL 的架构设计透着一种精明的取舍。1200 亿总参数、120 亿激活参数的混合专家(MoE)结构,让它用大约五分之一的参数规模,追平了英伟达最大推理模型在多模态 agentic 任务上的准确率。它支持最长 100 万 token 的上下文,能读文本、图像、文档和视频,视频输入限制在两分钟以内,输出可以是文本、JSON、工具调用,还可以选择是否附带推理过程。

官方给出的数字很有说服力。在 Hermes Bench 上,Super VL 得分 63.44%,高于 Nemotron 3 Ultra 的 56.33%;在 LangChain 评估中,Super VL 拿到 87.05%,Ultra 是 84.3%。更关键的是效率,在 10,000 个编码任务的测试中,Super VL 完成任务的速度比同类模型快 4 倍。在 Artificial Analysis 的 Intelligence Index 评测里,它以约每秒 625 个输出 token 的速度跑在 26 分的综合得分上,而对比组 Inkling Small 只有约每秒 125 个 token。

速度背后是一整套工程优化。模型用了 LiLiCorr 推测解码、NVFP4 量化配合量化感知蒸馏、多 token 预测和上下文复用,目标是在单张 GPU 上把推理效率榨干。独立评估公司 EXO Labs 把 Super VL 放到 DGX Spark 上跑,结果它落在了准确率和任务完成时间的帕累托前沿上。也就是说,在能塞进单台设备的模型里,它同时做到了又快又准。

这套组合拳打的是企业 agent 最痛的点。一个永远在线的客服 agent、文档 agent 或研究 agent,每天要处理成千上万个请求,读 PDF、查表格、跨来源核对信息、遵循公司政策、调用多个工具。闭源模型按 token 计费,这些长流程任务的成本会指数级膨胀。Super VL 允许企业把它部署在自己的 B200、H200 或 DGX Spark 上,用一次性的硬件投入替换持续的 API 账单。

为什么是“可定制的半成品”,而不是“最强的模型”

Super VL 的综合智能指数只有 26 分,在 Artificial Analysis 的榜单上低于 GLM-5.3-Flash 的 42 分、Qwen3.8-Flash-Next 的 40 分。这个数字不丢人,但它说明了一个战略选择,英伟达没有把 Super VL 定位成通用聊天机器人,而是定位成企业专用 agent 的底座。

闭源 frontier 模型的优势在于开箱即用,用户什么都不用做,就能得到一个什么都会一点的全能助手。但企业客户真正需要的不是全能,而是在自己的业务流程里不出错。客服 agent 必须严格遵守退货政策,财务 agent 必须读懂自家格式的发票,安全 agent 必须识别特定类型的漏洞。这些能力通用模型给不了,只能靠客户用自己的数据做后训练。

英伟达赌的就是这一点。它把 Super VL 做成一个可以被客户用自有数据、自有工具、自有政策重新训练的半成品,然后提供 NVIDIA NeMo 做监督微调、LoRA 和强化学习,再配上开放的训练数据集和 NeMo Gym 里约 100 个 RL 环境。客户得到的不是一个“答案机器”,而是一套可以持续进化的专有工作流。

这套逻辑在早期合作伙伴身上已经能看到效果。Scale AI 用 Super VL 为 Skydance 训练供应商信贷 agent,推理成本降了 40 倍,延迟降了 5 倍。Ramp 用它把收据图像转成结构化 JSON,吞吐量提升最高 50%,延迟降 10 倍。AI21 为 AI 安全公司 Alice 做威胁情报分析,准确率提升 40%。AfterQuery 为 Hebbia 定制了信贷协议分析模型,Mercor 在 APEX-SWE 编码基准上做了后训练,ModelScope 通过 ms-swift 框架让开发者能做专项多模态微调。

软件平台公司也在排队接入。Atlassian 用它做 Jira 和 Confluence 之间的 agent 搜索,CrowdStrike 定制它做企业安全的蓝队演练,Dassault Systèmes 把它接进工程设计与仿真,Perplexity 用它支撑搜索和 agent 任务,Salesforce 通过 Missionforce Operations 为政府客户自动化复杂工作流,Synopsys 的半导体设计验证软件已经能和模型互操作。这份名单的潜台词很清楚,英伟达要的不是几个标杆客户,而是让整个企业软件栈都长在 Nemotron 上。

从数据中心到桌面,一张“出不去”的网

如果说 Super VL 是打企业服务器市场,那么两款 Bolt 边缘模型就是英伟达把这张网织到本地设备上的动作。Bolt 74B-A9B 24GB 用原生 2-bit 量化把 740 亿参数塞进 24GB 显存,激活参数 90 亿,目标是让用户在 RTX 或 DGX Spark 上本地跑编码、研究、调试代码这类多步骤任务,不用把数据送上云。它在 PinchBench 同类开源模型里排第一,在 BrowseComp 开源模型里排第二。Bolt E4B 4GB 则瞄准语音助手、交互角色和嵌入式界面这类对延迟敏感的对话式 agent,可以跑在 GeForce RTX、Jetson 和 RTX 或 DGX Spark 上。

这三款模型加上 8 月发布的 Lightning 和 Ultra,英伟达的 Nemotron 家族已经形成了一个完整的覆盖矩阵。Ultra 负责最难的推理任务,Lightning 负责高吞吐负载,Super VL 负责企业专用多模态 agent,Bolt 负责本地和边缘的 agentic 任务。这个矩阵里还缺什么,几乎什么都不缺。

这个矩阵的可怕之处在于,它让客户从原型到生产、从云端到边缘的每一层部署,都落在英伟达的硬件和软件栈里。你可以在 Hugging Face、OpenRouter、ModelScope 上下载权重,也可以直接调 NVIDIA NIM;运行时支持 vLLM、SGLang 和 TensorRT-LLM,部署在 Blackwell 或 Hopper 上;想走本地路线,llama.cpp、Unsloth、Ollama 和 LM Studio 也都支持。但无论你选哪条路,底层都是英伟达的 GPU、英伟达的 NIM、英伟达的 NeMo。

这正是“开放”二字的商业本质。开源权重降低了客户的尝试门槛,却同时提高了客户的迁移成本。当你用自己的数据把 Super VL 后训练成专属 agent,当你把整个工作流都构建在 NVIDIA NIM 的推理接口上,你就不再是一个可以随意切换 API 提供商的用户,而是被深度绑定的生态参与者。

收购 Hugging Face 是最后一块拼图

理解英伟达这盘棋,不能漏掉背景里那笔 129.3 亿美元的交易。根据 SEC 文件,英伟达收购 Hugging Face 的协议预计 2027 年上半年完成,前提是监管批准。英伟达承诺保持 Hugging Face 对其他模型厂商和芯片厂商开放。

这笔交易的意义在于分发渠道。Hugging Face 是开源模型事实上的集散地,控制了模型发现、下载、评测和社区讨论的入口。当英伟达自己的 Nemotron 家族成为这个入口上的“置顶推荐”,当 NeMo 的微调工具链和 Hugging Face 的生态深度整合,英伟达拿到的就不只是模型层面的竞争力,而是整个开源 AI 生态的流量闸门。

这也解释了为什么英伟达如此执着于“开放”叙事。在闭源模型阵营,OpenAI、Anthropic、谷歌各自筑墙。英伟达没有选择正面硬刚通用智能,而是转身拥抱开放社区,用开源权重、开放数据集、开放训练环境换取开发者的用脚投票。等 Hugging Face 的交易落地,这条开放路线会形成闭环,模型在 Hugging Face 分发,微调在 NeMo 完成,推理在 NIM 上跑,硬件在英伟达 GPU 上转。

谁会赢,谁危险

短期看,Super VL 最直接的冲击对象不是 GPT 或 Claude,而是那些靠“通用 API 加简单微调”生存的企业 AI 中间层。当客户发现用一个开源模型就能在自己的基础设施上跑出更低成本、更低延迟、更高准确率的专用 agent 时,中间层的议价空间会被快速压缩。

中期看,真正的赢家是英伟达的硬件。无论客户选 Super VL、Bolt 还是其他开源模型,只要他们把 agent 跑在本地或私有云上,他们就需要 GPU。而英伟达已经用完整的模型家族和软件栈,把这条需求锁进了自己的生态。

危险信号同样存在。Super VL 的通用智能指数只有 26 分,这意味着它在开放域对话、复杂通用推理上仍然打不过顶级闭源模型。对于那些需要“什么都会一点”的通用助手场景,客户还是会回到 OpenAI 和 Anthropic。英伟达的开放路线赢在专用、赢在成本、赢在可控,但它并没有、也不打算赢下通用智能的皇冠。

黄仁勋的开放模型战略从来不是为了打败闭源模型,而是为了让每一家企业都心甘情愿地把 agent 建在英伟达的芯片上。开放的是权重,锁住的是整个生态。

作品声明:内容由AI生成

快报

更多

10:53

OpenAI再度挖角SpaceX AI领域核心销售负责人‌

10:43

两部门:支持体育运动进影院,探索在符合条件的电影院开展适宜的运动项目

10:41

中国金饰消费额逼近历史最高水平,18岁到34岁年轻人是买金大户

10:34

从“飞起来”到“用起来”,低空经济告别概念比拼

10:33

机构:第三季度上海办公楼市场需求回暖

10:32

部分“固收+”理财产品净值回撤,风控与预期管理临考

10:28

Anthropic据悉在最新一轮芯片融资交易中向黑石集团提供两位数收益率

10:23

上海财经大学校长刘元春:AI冲击世界金融结构,重思人民币管理思路

10:22

华储网:10月22日中央储备冻猪肉收储竞价交易挂牌13800吨

10:20

安理会举行联合国秘书长遴选第六轮意向性投票

10:18

《世界职业技术教育标准框架》发布

10:17

华储网:10月20日中央储备冻猪肉轮换出库挂牌国产冻猪肉15000吨

10:16

特朗普宣布暂缓实施新一轮对俄制裁

10:15

中国技能人才新增劳动力平均受教育年限超14年

10:10

古尔曼:苹果在供应有限的情况下过早推出iPhone Duo

10:05

交货期排到明年,苹果称iPhone Duo市场需求异常旺盛

09:48

黄仁勋谈AI市场震荡:“这一切都会过去”

09:42

国际油价飙升,美油大涨3.5%、布油逼近110美元

09:32

美股收评:纳指大跌2.14%,科技、芯片重挫,防御股继续冲高

2026-10-16 23:02

国内商品期市夜盘收盘涨跌参半,能源品涨幅居前