由 DeepMind 校友创办的英国 AI 实验室 Inherent,发布了名为 Faraday 的 AI 科研代理。公司称,Faraday 在复现科学论文的任务上,表现超过了 Anthropic 和 OpenAI 的模型。
这条消息有看点,但标题里的“击败”需要打个折扣。Faraday 比较的对象很可能不是一个裸模型,而是一套包含模型、提示词、工具调用、实验流程和自动评审的代理系统。它展示了科研代理的潜力,却还不足以证明一个更小的模型全面胜过前沿模型。
Inherent把竞争从“答对问题”推向“做完实验”
按 Inherent 的公开介绍,Faraday 的目标不是回答论文内容,而是尝试复现论文里的研究结果。它需要理解研究方法,安排实验,运行代码,再把结果与论文结论进行比较。
这类任务比普通问答难得多。聊天模型可以在几秒内解释一篇论文,却未必能处理依赖环境、数据、随机种子和代码版本的真实实验。科研代理的价值,恰恰在于把“读懂论文”推进到“动手验证”。
这也是 Inherent 这次发布最值得保留的部分:AI 产品的竞争单位,正在从单个模型的参数规模,转向一整套完成任务的流程。
不过,Faraday 的成绩应当被准确描述为“在特定复现基准上取得更好结果”。目前能确认的是 Inherent 的发布说法;公开材料若没有同时给出完整任务样本、提示词、预算、失败率和统计显著性,外部读者就很难独立重跑这场比较。
“小模型胜出”取决于它到底和谁比
“模型击败模型”是一个很容易误导读者的说法。科研代理通常有多个角色:一个模型负责拆解论文,另一个负责写代码,工具负责运行实验,最后还可能由模型或规则系统判断结果是否复现成功。
因此,比较至少有三种不同含义:
| 比较方式 | 能说明什么 | 不能说明什么 |
|---|---|---|
| Faraday 代理对比单个聊天模型 | 代理流程更适合完成复现任务 | 不能证明底层模型能力全面更强 |
| Faraday 使用多个模型与工具,对比单模型 | 系统工程能带来任务收益 | 不能把收益全部归功于 Faraday 的核心模型 |
| 相同预算、工具和提示下比较完整系统 | 更接近真实产品竞争 | 仍需看样本量、失败案例和跨领域表现 |
如果 Faraday 的系统中调用了 Anthropic 或 OpenAI 的模型,那么“对手给自己提供了部分能力”并不矛盾,却会改变标题的含义。此时真正被检验的是 Inherent 如何编排模型和工具,而不是某个 27B 或其他规模的模型单挑前沿模型。
这和过去的论文基准竞赛有相似之处。模型可以针对公开题型优化,评测者也可能根据容易自动判分的指标调整系统。指标一旦成为目标,系统就会努力赢得指标,而不一定完成更有价值的科研工作。复现结果尤其如此:跑通一组实验,不等于真正理解了论文,也不等于发现了可推广的新知识。
科研领域对“可复现”的要求,本来就不止一个分数。数据是否完整、代码是否可用、实验环境是否一致、失败结果有没有被记录,都会影响结论。Faraday 如果只展示成功率,而不披露失败样本,读者看到的可能只是它最擅长的那一类论文。
研究团队和采购者暂时不该据此换工具
对研究人员而言,Faraday 更像一个值得试用的实验助手,而不是可以独立签字的研究同事。它可以帮忙整理复现步骤、检查代码、批量运行参数,但关键结论仍需要人检查,尤其是数据处理、统计方法和异常结果。
最现实的用法,是把它放进低风险、可重复的工作里:安装公开代码、运行基准实验、比较论文与实际输出。涉及临床数据、专有数据或高额算力时,团队仍要保留人工审核和日志记录。代理把实验做快了,也可能把错误做得更快。
企业采购者则应先等三类信息:
- Faraday 是否公开基准任务和完整评测协议;
- 它与 Anthropic、OpenAI 模型是否使用了相同的工具、上下文和算力预算;
- 结果能否在不同学科、不同论文和独立测试集上重复。
这些变量比发布会上的单一胜负更重要。若 Inherent 能开放测试集、报告失败案例,并让第三方复跑,Faraday 才可能从一次漂亮的产品演示变成科研基础设施。若评测长期停留在自建样本和自动裁判,结论的有效范围就只能限定在那套测试里。
对普通用户来说,这条新闻暂时没有带来“该换掉 ChatGPT 或 Claude”的理由。对研究团队来说,它提供了一个更具体的采购问题:你买的是一个更强的模型,还是一套能稳定完成实验、留下证据、接受人工复核的工作流?Faraday 的后续成绩,最终要靠后者回答。
