Cognition今天放出了新模型SWE-1.7,给出的说法很直接:在自家的FrontierCode 1.1 Main基准上拿到42.3%,只比GPT-5.5的43.0%低了0.7个百分点,离Opus 4.8的46.5%也不算远,而成本被形容为"a fraction of"——一个零头。这个模型是在Kimi K2.7base上继续做强化学习训练出来的,现在通过Cerebras在Devin(网页、桌面、CLI)里以1000 TPS对外提供。
把它放在时间线里看更有意思。上一代SWE-1.6在同一个基准上只有9.4%,这次跳到42.3%,涨幅不是修修补补的量级。Cognition自己给出的解释是:RL训练带来的收益远没有触及所谓"天花板"——业内一直担心,在一个已经被大量RL调过的base模型上继续训练,边际收益会迅速衰减,但SWE-1.7的跳跃被他们拿来当反例。
三项训练细节,才是这次真正的增量
跑分数字本身不难理解,但Cognition这次难得地把训练过程写得比较细,这部分才是普通读者平时看不到的东西。
第一个问题是熵坍缩:模型训练久了会停止探索,奖励很快就卡在一个平台上不再涨。Cognition的解法是用top-p采样过滤掉那些低概率、容易导致模型"跑偏"的token,不让它们参与梯度更新——因为这类token一旦被采样,反而会让本来就占优的token概率涨得更快,分布越训越尖。为了不让这个技巧本身制造新的训练-推理偏差,他们又加了一层"采样分布重放"的记录机制。效果是训练中的策略熵基本保持平稳,而不是像以前那样一路下滑。
第二个问题是算力怎么拼起来。Cognition不是靠一个大集群硬训,而是把训练铺在三大洲、四个数据中心,自有GPU加上Fireworks这类推理服务商的算力混着用。训练端只需要一个高带宽集群,推理端可以散在各处——权重更新通过对象存储中转,每次只传压缩后的增量,体积压掉99%以上,跨洲同步一次一到两分钟,推理只需要暂停三四秒。
第三点是self-compaction,这个手法Cognition之前在Kevin-32B(内核优化模型)上就试过:模型接近上下文上限时,自己写一份工作状态摘要,再从摘要续跑,相当于绕开了原始上下文窗口的硬限制。这次训练里,单条rollout最长能跑到六小时。为了不让模型学会"话痨式"堆输出去骗奖励,他们还交替施加长度惩罚——有的阶段只看任务是否做成,有的阶段严格卡token预算。
这一整套工程,再加上NVIDIA Dynamo管理节点故障、坏了自动重路由,确实解释清楚了一件容易被忽略的事:强化学习训练不必挤在一个巨型集群里,分散的算力只要调度得当,一样能喂出一个大模型。这是这篇发布里最经得起推敲的部分。
打分的是自己,这道题得留个心眼
跑分对比表来自Cognition自己的博客:
| 基准 | SWE-1.7 | Kimi K2.7 Code | GPT-5.5 | Opus 4.8 |
|---|---|---|---|---|
| FrontierCode 1.1 Main | 42.3% | 30.1% | 43.0% | 46.5% |
| Terminal-Bench 2.1 | 81.5% | 72.7% | 84.2% | 86.9% |
| SWE-Bench Multilingual | 77.8% | 73.5% | 76.8% | 84.4% |
问题在于,FrontierCode这套基准本身就是Cognition自建的,rubric怎么定、哪些任务算过关,外界看不到独立复现。用自己出的题去证明自己接近前沿模型,说服力天然打折。GPT-5.5、Opus 4.8/4.7、GLM-5.2这几个对比对象的版本号,目前也没有查到对应厂商的公开确认,读者不妨自己核实一下这些型号是否真实存在、发布方是谁,再决定这张表能信几分。
"打破post-training天花板"这句话本身也值得多想一层。SWE-1.7的涨幅,到底是Cognition的RL方法真的更通用,还是Kimi K2.7这个base模型本来就留着一大块没被榨干的余量?文章列出的四项技术——熵治理、多集群、数据清洗、self-compaction——哪一项贡献最大,Cognition没有拆开给消融数据,读者拿到的只是一个总分。
分数逼近前沿,证据链却停在自家考卷这一层
- 风险.FrontierCode由Cognition自建自评,尚无第三方复现,跑分可信度打个问号。
谁该盯着这件事
对已经在用Devin做异步长任务的团队来说,如果1000 TPS的响应速度和宣称的低成本能落地,确实值得掂量要不要换模型跑一批真实工单——但目前博客里没给出每次rollout的具体美元花费,"便宜一个数量级"目前还是一句定性描述,没有可比的价格锚点。对Anthropic、OpenAI、智谱、月之暗面这些同行来说,"post-training没有天花板"这个说法如果站得住,意味着后续RL投入还能继续加码,值得看它们会不会跟进披露类似的熵坍缩解法。接下来最该盯的,是有没有第三方跑出可复现的FrontierCode或同类分数,以及SWE-1.7的实际定价和延迟在真实工程任务里能不能扛住。