Claude Fable 5 刚开放不久,Anthropic 就为一个很要命的设计道歉:它给模型加了反蒸馏护栏,但用户看不见。

问题不在“限制”两个字。用 Claude 输出训练竞争模型,本来就碰到 Anthropic 服务条款的边界。问题在于,原方案不是拒答,也不是提示,而是在后台改写或降低回答质量。你以为自己在测试 Fable 5,可能实际测到的是一个被悄悄拧过旋钮的版本。

发生了什么:护栏从暗处挪到明处

Fable 5 是 Anthropic Mythos 系列第一个广泛可用的模型。这个系列此前被 Anthropic 反复强调风险更高,所以它带着更强限制上线,并不奇怪。

争议点很窄,也很关键:反蒸馏限制原本不可见。

项目原方案调整后
涉及模型Claude Fable 5,Mythos 系列首个广泛可用模型不变
触发场景系统怀疑请求用于蒸馏、训练竞争模型仍会限制相关请求
处理方式可能降低或改写回答质量回退到 Claude Opus 4.8
用户感知不告知触发了限制每次触发时明确提示
对照机制生物、化学、网络安全等高风险领域已有可见路由或拒答反蒸馏也改为可见处理

“蒸馏”不是坏词。它通常指用大模型输出训练小模型,是 AI 训练里常见方法。Anthropic 防止别人用 Claude 训练竞争产品,也有合同依据。

但合同依据不能自动推出“可以隐形降质”。

高风险领域本来就有更直接的做法。涉及生物、化学、网络安全等请求,Fable 5 可以路由到 Opus 4.8;涉及毒品、武器等禁止内容,也可以直接拒答。生物场景甚至被批评过度保守,连一些基础问题都可能受到影响。

这说明 Anthropic 不是不会做可见护栏。它知道怎么提示,怎么路由,怎么拒答。反蒸馏这块选择隐形,才是道歉不冤的地方。

谁最受影响:研究者和开发团队会先踩坑

这件事不只关竞争对手。

最受影响的是两类人:做模型评测的人,和准备把 Fable 5 接进产品的开发团队。

对象具体影响现实动作
AI 研究者、第三方评测者无法判断回答变差是模型能力问题,还是隐藏护栏触发需要重跑部分测试,记录触发提示,重新解释基准结果
使用 Fable 5 的开发团队调试时可能误判模型能力、稳定性和成本收益采购或迁移决策会延后,关键链路要加日志和兜底模型
训练竞争模型的公司触碰服务条款边界时会被限制不能假设可无限使用 Claude 输出做训练数据

普通用户也不是完全无关。只要模型输出会被后台策略悄悄改写,用户就很难判断一次失败来自哪里:提示词不行、模型不行,还是平台策略介入。

对开发者来说,这不是情绪问题,是工程成本。

如果一个团队正在比较 Fable 5、Opus 4.8 和其他模型,隐藏降质会直接污染选型。你可能因为一组异常结果放弃 Fable 5,也可能在生产环境里才发现某些请求被替换路线处理。两种都贵。

目前还看不清的是触发边界。公开信息没有给出触发比例,也不该凭空猜。也不能断言所有入口、所有普通请求都会受影响。可只要平台承认“曾经不可见地改变输出质量”,评测者就必须把它当成变量处理。

接下来最该看三件事:触发提示是否足够具体,开发者能否在日志里识别这类回退,第三方评测能否排除或标注这些触发样本。没有这些,透明只停留在弹窗层面。

真问题:安全叙事里混进了商业防御

Anthropic 的解释并非完全站不住脚。可见护栏更容易被试探,隐形策略可能更难绕过,也可能减少误伤。这是工程现实。

但工程便利不能替代产品诚实。

大模型服务本来就不透明。用户看不到权重,看不到系统提示,看不到完整路由,也看不到后台策略。如果连“我拿到的是正常回答,还是被限制后的回答”都不知道,信任会先坏掉。

我更在意的是这条边界:安全护栏和商业护城河正在被绑在一起。

Fable 5 风险更高,需要安全限制,这是合理的。防止别人用 Claude 输出训练竞争模型,也可以写进条款。可一旦两者塞进同一个黑箱,用户就很难分辨:平台是在保护公共安全,还是在保护自己的市场位置。

“天下熙熙,皆为利来。”这句老话放在这里并不刻薄。前沿模型的输出本身就是资产,谁能调用、谁能批量拿走、谁能用来训练下一代模型,都是利益分配。安全是正当理由,商业防御也是现实需求。真正危险的是把两者混成一团,还不让用户看见。

历史上,强平台都喜欢这样做。铁路、电信、操作系统、应用商店,都曾把“秩序”写成治理语言,把“控制”藏在规则细则里。今天的大模型不完全一样,但权力结构很像:规则越黑箱,平台越舒服,依赖平台的人越难申诉。

这次 Anthropic 改口,算做对了一半。触发就提示,限制就说明,必要时回退到 Opus 4.8。它没有放弃反蒸馏,也不需要放弃。它只是把暗处的限制搬到台面上。

剩下的一半,还要看执行。

如果提示只是模糊一句“出于安全原因已调整”,评测者仍然难用。如果开发者拿不到可审计的触发信号,生产系统仍然难排障。如果反蒸馏和高风险安全拒答继续混在同一套叙事里,争议还会回来。

Fable 5 留下的真正问题,不是模型有没有护栏,而是护栏归谁解释、谁能审计、谁来承担误伤成本。

用户可以接受红线。不能接受地板突然下沉,还没人告诉你。