Inception Labs 在 2026 年 10 月 19 日抛出 Mercury 3 时,给业内扔下了一颗重磅炸弹:生成吞吐达到 1,068 tokens/s。
官方将这颗基于扩散架构的模型推上擂台,直面自回归阵营的当红轻量主力。按其披露的数据,Mercury 3 不仅在中等推理强度的基准测试中压过 GPT-6 Luna 与 Claude Haiku 5.5,更将上下文窗口拉到 1M tokens,参数规模也较一代扩大了 40 倍以上。
如果只看宣发口径,长期统治自然语言领域的 Transformer 逐字生成范式似乎已被撕开裂口。但这更像是一场经过精心包装的实验室极值秀。
实验室千字流速与公网落差
自回归架构的核心病灶在于串行依赖,模型必须基于前一个词预测下一个词,显存带宽与推理延迟在长文本场景下迅速恶化。扩散架构的做法则是将图像生成中的多步去噪引入文本,尝试通过全局并行生成突破速度天花板。
在官方公布的数据中,Mercury 3 在 NVIDIA GPU 上拿出了四到八倍于主流竞品的速度。定价方面同样激进:正价输入每百万 token 收费 $0.20、输出 $0.70,首发期间直接腰斩为 $0.10 与 $0.35,甚至给出了 90% 的缓存折扣。
实验室跑分往往忽略了现实网络的摩擦力。官方并未公布达成千字吞吐所需的集群规格与并发参数。而在公网接入渠道 OpenRouter 的实时监控中,Mercury 3 的实际 P50 吞吐仅在 225-276 tokens/s 徘徊,P50 延迟在 0.35 至 1.17 秒之间。
一旦进入多租户共享的基础设施,排队与网络调度会让那份极致的吞吐数据迅速缩水。
扩散模型的结构性死穴
比起公网带宽的损耗,更深层次的矛盾埋在文本扩散的生成机理中。
自回归模型虽然逐字蹦字较慢,但生成第一个字所需的时间相对可控。扩散模型恰恰相反:它必须完成前序的去噪迭代,才能将第一批清晰的文本还原出来。这种机制决定了它具备极高的数据喷涌速度,却背负着迟钝的启动步长。
前代 Mercury 2.5 在 Puter 的独立测试中就已暴露出该问题:长文本生成速率虽然能冲到 1,241 tokens/s,但在 600 词提示下,首字时间(TTFT) 达到了 5.0-5.3 秒。
这种高吞吐与高首字延迟并存的特性,直接切中了许多应用场景的软肋。在实时语音、交互式搜索或车载助理中,用户对两三秒的停顿极度敏感;后面的字喷得再快,也挽回不了前面对话冷场的尴尬。
速度的价值在于让人感觉不到等待,而不是等了数秒后被文字一次性淹没。
第三方机构对竞品高强度推理的摸底也展示了另一种极端:GPT-6 Luna 在极高推理要求下的实测吞吐为 122.9 tok/s,Claude Haiku 5.5 为 232.2 tok/s。即便大厂的自回归模型在重度计算时也有漫长的启动期,但扩散模型若无法将首字等待压入亚秒级,千字流速在许多交互界面中就只能充当后台管道。
- 提醒.首字延迟直接决定了实时交互的成败,评估扩散模型绝不能只看每秒吐字量。
基准剪裁与推理天花板
Inception Labs 试图证明文本扩散也享有自己的扩展法则:Mercury 3 的参数较一代提升逾 40 倍,标准测试的智能度提升了 3 倍。官方罗列的成绩单看起来相当抢眼:
| 评估基准 / 模型 | Mercury 3 | GPT-6 Luna | Claude Haiku 5.5 |
|---|---|---|---|
| GPQA Diamond (多学科推理) | 89.23 | 86.36 | 84.51 |
| IFBench (指令遵循) | 76.84 | 71.20 | 69.45 |
| SWE-Bench Atlas (软件工程) | 51.08 | 33.33 | 32.26 |
| DeepSWE v1 (深度编程任务) | 46.31 | 未披露 | 51.62 |
表格清晰地展示了官方宣传的边界。Mercury 3 确实在中等推理密度的选择题和标准化工程任务上拿到了优势,但在考验长程因果逻辑的 DeepSWE v1 深度编程评测中,Claude Haiku 5.5 依然以 51.62 压制着 Mercury 3 的 46.31。
代码编写是极为纯粹的因果链条,少一个括号或错位一个变量名,整段逻辑就会崩溃。扩散模型擅长全局构图和片段填空,但面对高度紧绷的严密逻辑链时,非自回归的并行机制是否隐藏着确定性短板,目前缺乏独立第三方的盲测验证。
单看名义定价同样会产生误判。在 Artificial Analysis 的追踪中,Haiku 5.5 的 token 单价虽然不高,但综合推理步数后,实际单任务成本可达 Luna 的 3 倍。Mercury 3 是否会因为去噪步数、重试和格式纠偏而产生额外隐性开销,账本还没算完。
天下大事,必作于细。文本扩散模型能在参数放大的过程中守住基础推理,是一次货真价实的工程跨越。但从实验室的无摩擦跑道,走到真实开发者复杂交织的调用链路,中间还隔着首字响应、长链推理与实际调度这三道深沟。
- 建议.需要大段日志分析或批量文本归纳的流水线可以尝试切入,但首字敏感的语音和强逻辑编程任务仍需维持观望。
