OpenAI 最近复盘了一场很小的机器学习比赛：Parameter Golf。
小到什么程度？参赛产物只有 16MB，里面还要同时塞下模型权重和训练代码；训练预算也被卡死：8×H100，10 分钟。目标很单一，在固定 FineWeb 数据集上，把 held-out loss 压低。
但结果不小。8 周，1000 多名参与者，2000 多次提交。RunPod 赞助了 100 万美元算力。更有意思的是，AI 编码代理几乎成了默认工具。
这不是 OpenAI 发布新模型，也不是产品更新。它更像一次提前演练：当研究试错被代理降到很低成本，机器学习竞赛会变得更快，也更吵。
规则很窄，逼出了工程品味
Parameter Golf 的规则设计很克制。它不让参赛者靠堆 GPU 硬磨，也不把任务放到难以验证。空间、时间、数据、指标都锁死。
| 项目 | 规则 | 直接后果 |
|---|---|---|
| 产物限制 | 16MB，包含权重和训练代码 | 逼迫压缩、量化、代码取舍 |
| 训练预算 | 8×H100，10 分钟 | 长训练没用，调参和结构更重要 |
| 数据与指标 | 固定 FineWeb，比较 held-out loss | 便于复现，也容易形成排行榜压力 |
| 比赛规模 | 8 周、1000+ 人、2000+ 提交 | 足够观察群体试错和复制行为 |
冒出来的技术路线并不玄学。
一类是基础工程活：优化器组合、权重衰减、初始化、调度、编译评估。有人把榜首方案拆开、筛选、重组，再让更深模型跑起来。听着不酷，但很有效。
一类是压缩：GPTQ-lite、完整 Hessian GPTQ。16MB 的限制摆在那里，权重、代码、精度，每一寸都要算账。
还有一类踩在评估边界上：score-first LoRA 测试时训练、自生成 GPTQ 校准。OpenAI 没把它们说成作弊，而是强调规则内也需要仔细审核。竞赛里最麻烦的地方就在这里：高分不一定脏，但一定要查清楚。
模型结构和表示层面，也有不少小刀法：CaseOps tokenizer、XSA、SmearGate/BigramHash、mini depth recurrence。名字看起来怪，问题很朴素：tokenizer 怎么省，attention 怎么改，特征怎么压，循环深度能不能多挤一点收益。
这场比赛提醒人一句：小模型不是大模型神话的缩小版。约束越硬，越考验手艺。这里比的不是谁会喊 scaling law，而是谁能在限制里少浪费一点。
AI 代理把门槛降了，也把噪声放大了
OpenAI 提到，大多数提交者都说自己用了 AI 编码代理。
收益很直接。搭环境更快，读陌生代码更快，改 baseline 更快。过去一个人嫌麻烦不愿试的分支，现在可以让代理先写一版。非 record track 里，一些非自回归建模、动态 tokenization 之类更实验性的方向，也因此更容易被跑出来。
这对机器学习研究者和工程师的影响很具体：以后参加类似挑战，可能不再是“会不会用代理”的问题，而是怎么把代理纳入实验流程。该做的动作也很现实：固定评估脚本，记录每次改动来源，保留失败实验，不要只留下一个漂亮提交。
否则归因会碎掉。你很难说成绩来自人的判断、代理生成的代码、榜首方案的启发，还是排行榜反馈后的拼接。
对关注 AI 编码代理的人，这场比赛也给了一个更冷的样本。代理不是把研究员替换掉，而是把试错成本打下来。成本一下降，提交数量会上来，重复、小改、复刻也会上来。
很多提交并不是新方向，而是榜首方案的小改、拼接和复用。好想法传播更快，这是红利。无效路径传播同样更快，这就是治理成本。
OpenAI 后来做了一个内部 Codex-based triage bot，用来监控新提交，标记需要人工审核的内容。原因并不复杂：一天几百个提交，靠人肉逐个看，排行榜会卡死。
这件事有点像早期报业遇到电报。消息跑得更快，新闻生产效率暴涨，假消息、跟风稿、署名争议也一起膨胀。不完全一样，但结构相似：技术先提高流速，秩序要另付成本。
“天下熙熙，皆为利来。”这里的利不只是奖金和排名，也是曝光、招聘信号、技术声誉。OpenAI 也把 Parameter Golf 看成一个人才发现界面。开放挑战正在变成筛选 ML taste、耐心和执行力的工具。
真正的分水岭是能不能治理这种速度
我不太买账“AI 代理会取代研究员”这类说法。至少 Parameter Golf 支撑不了这个结论。
它说明的是另一件事：代理降低了实验摩擦，但没有自动提供判断力。它能帮你更快写代码、组合方案、扫更多路径。可哪个路径值得追，哪个高分不可信，哪个改动只是噪声，仍然要人来判。
对研究团队，接下来最该看的不是“用了哪个代理”，而是三件事：
- 提交能不能复现，尤其是评估边界上的高分方案。
- 实验记录能不能追溯，别让代理生成的改动变成黑箱。
- 排行榜有没有抗噪声机制，防止异常方案带偏一批复制提交。
对个人参赛者，动作也很清楚。不要只让代理帮你堆改动。更重要的是建立自己的判断顺序：先确认规则，再复现 baseline，再拆贡献，再做组合。代理适合加速，不适合替你决定什么是好研究。
这里有一个现实限制。开放竞赛当然能发现人才，但它也会奖励会包装、会追榜、会快速复刻的人。真正的研究能力不只体现在最终分数，还体现在失败路径、排错耐心和对边界的克制。
所以，2000 次提交不是 2000 个突破。很多只是搜索空间里的脚印。
Parameter Golf 的价值恰恰在这里。它把 AI 代理时代的研究竞赛提前演了一遍：模型没有替代研究员，代理也没有替代品味。它们只是让好品味和坏品味，都跑得更快了。