英伟达在开源大模型市场上扔下了一张专为全天候企业智能体设计的底牌。

2026年10月15日,英伟达正式开源发布多模态大模型 Nemotron 3.5 Super VL,拥有1200亿总参数与120亿激活参数,基于混合专家(MoE)架构与NVFP4量化技术打造。与此同时,由Mistral AI、Perplexity、Thinking Machines Lab和Black Forest Labs联合组成的Nemotron Coalition,还同步推出了面向边缘与本地部署的轻量化Bolt系列。表面上看,这又是一次“开源击败前代”的胜利叙事,但只要翻开底层评测的技术账本就会发现,这并非通识推理的阶跃,而是一场极其精密的工程妥协。

速度快四倍背后的精度代价

在英伟达的技术叙事里,Super VL是一次漂亮的“以下克上”。作为从前代主力Nemotron 3 Ultra蒸馏而来的产物,它在参数规模缩减至五分之一的同时,在部分流程性测试中跑出了更高的分数。在Artificial Analysis综合评测中,Super VL拿下 26.5分,大幅落后于闭源顶级模型Claude Opus 5.5(58分),但确实压过了更新评测体系后处于约23分区间的Ultra。

然而,这套宣传掩盖了一个残酷的取舍。在针对实际代码解决能力的SWE-bench Pro测试中,英伟达在四张B200环境下测出了惊人的吞吐表现:Super VL的NVFP4版本仅消耗 8.3个GPU小时 就完成了基准任务,而同场竞技的开源竞品Qwen3.8-Flash-Next耗时37.1小时,DeepSeek V4 Flash 0731耗时40.4小时。

SWE-bench Pro 算力账本对照:精度损失与时间收益 Super VL (NVFP4) 8.3 小时 4张 B200 运行耗时 51.3% Pass@1 代码准确率 Qwen3.8-Flash-Next 37.1 小时 4张 B200 运行耗时 60.4% Pass@1 代码准确率 DeepSeek V4 Flash 40.4 小时 4张 B200 运行耗时 56.9% Pass@1 代码准确率

速度提升了四倍,代价是 9.1个百分点 的绝对精度跌落。Super VL的通过率仅有51.3%,远低于Qwen的60.4%。不仅如此,官方展示的高速对比建立在极为严苛的技术假定下:DeepSeek未启用推测解码且采用MXFP4,而Super VL依赖高达99%的KV缓存命中率与多Token预测机制。离开这种理想的缓存温室,吞吐优势会大打折扣。

  • 风险.在长链路企业自动化中,低于竞品近9个百分点的基准精度,往往意味着下游需要更多的人工审核回退与容错重试。

算力账本驱动的企业模型选型

为什么会有企业愿意咽下这近9个百分点的精度损失?答案在于生产环境的电费与租金账单。

在传统认知中,模型指标是唯一的兵家必争之地。但在金融理赔初筛、日志监控和票据录入等全天候运转的场景下,智能体不是回答一次提问就下线的聊天机器人,而是7×24小时无休止吞吐长上下文的无人工厂。当一个批处理任务需要调用数万次API时,运行时间从40小时缩减到8小时,等同于直接削减了近80%的直接算力租赁开支。

Nemotron 3.5 Super VL采用了底层结构创新来换取这一空间。它放弃了纯Transformer路径,转向 Mamba-2与Transformer MoE的混合架构,并挂载了支持原生高分辨率处理的C-RADIO视觉编码器。模型在输入端支持文本、图像与长达数分钟的视频输入,但不支持音频输入;其上下文窗口最高可线性拉伸至 1,048,576个Token。

在官方搭配的NVIDIA Dynamo推理栈中,基于4张B200与128并发配置,配合专属的KV感知会话路由,Super VL的单GPU吞吐峰值测得 1,378.9 tokens/s,首次Token生成时间(TTFT)的中位数仅为396毫秒。配合采用OpenMDW License Agreement 1.1且允许商用的开源协议,它精准切中了那些既要数据合规、又被API高昂账单吓退的企业自建需求。

企业多模态长文本推理流水线 输入载荷 文本 / 多图 / 视频 无音频支持 100万 Token 混合骨架处理 Mamba-2 序列压缩 C-RADIO 视觉编码 120B总参 / 12B激活 Dynamo 推理栈 NVFP4 4-bit 精度 KV-aware 会话路由 5-draft MTP预测 执行表现 1378 tokens/s 单卡 396ms TTFT
模型的吞吐优势,本质是用精度上限为代价换取的算力时间压缩。

端侧下放与硬件锁定的闭环

这场算力精简并未止步于云端数据中心。与Super VL同步亮相的还有两款极度激进的端侧模型:Nemotron 3.5 Bolt 74B-A9B 与定于2026年10月23日推出的 Bolt E4B。

前者将740亿总参数(90亿激活参数)的MoE模型通过极端量化,直接压进了 24GB显存,使得单张消费级显卡或RTX工作站具备了本地跑中型智能体的可能性;而后者则锁定了 4GB显存 规格,直奔边缘设备与实时语音助手场景。

模型型号参数规模运行显存门槛核心目标设备与场景
Nemotron 3.5 Super VL120B 总参 / 12B 激活多卡数据中心节点企业云端全天候数据流与长文本审计
Nemotron 3.5 Bolt 74B74B 总参 / 9B 激活24GB 单卡显存本地工作站、RTX Spark、复杂多步工具调用
Nemotron 3.5 Bolt E4B紧凑端侧定制版4GB 极低显存边缘Jetson、车载助手、本地低延迟交互

这构成了英伟达最拿手的商业闭环。买不起昂贵私有云的企业,可以在24GB工作站上跑Bolt;支撑庞大业务流的企业,则被引流至四卡或八卡Blackwell节点去兑现Super VL宣称的极限吞吐。但请注意,所谓“单卡跑出千Token/s”,死死绑定了NVFP4硬件单元、Dynamo专用推理调度以及对B200架构的针对性调优。一旦将其平移至上一代硬件或其他架构芯片,推测解码与缓存收益立刻大幅缩水。

  • 结论.开源模型并非英伟达的慈善事业,而是为了让企业在算清推理账单之后,心甘情愿地为Blackwell架构签下采购支票。