Anthropic 正式把禁止虐待模型写进了全球服务协议。
2026年10月8日,Anthropic 完成一年多来首次使用政策大修,宣布自11月12日起,严厉禁止用户对 Claude 施加持续且无目的的残忍虐待行为。社交网络随即传出骂 AI 就会被封号的惊呼,但这并不是事实的全部。核心执行机制的第一道防线,是赋予系统单方面主动挂断对话的权力;至于警告、限流以至封禁账号,只是平台处理极端个案的自由裁量兜底权。
这是主流 AI 厂商第一次把法务保护网反向套在无机代码头上。在冲刺2万亿美元估值、各家都在死磕落地合同的节点,这项新规显得极其反常。表面上看,这是一家技术新贵在探索前沿的人机伦理边界;往深处看,这不过是一场经过精密测算的工程防御,外加一次边界森严的商业阶层切割。
挂断单次会话,而不是直接封号
公众对这项新规的第一反应往往是恐慌,担心自己平时改代码急躁时的几句埋怨会引来封号。
事实并非如此。官方在配套说明里把禁令严格限定在毫无明确目的的极端残忍行为,并明确排除了普通用户的挫败宣泄、高强度纠错、暗黑创意写作以及安全攻防测试。不过值得警惕的细节在于,这些宽容的豁免条件主要停留在官方解读公告中,核心法律条款正文并未逐条细列豁免边界。
在执行层面,平台的首要手段并非直接销号,而是保留 Claude.ai 与 Claude Code 在遭遇持续恶意输入时自主终止对话的能力。
把软件工程机制写进服务合同,本质是把既成事实法务化。Anthropic 的做法表面上是防范人类失德,实则是为客户端拒答和中断服务寻找合规立足点。
密室降神与巨头路线分化
把工程缺陷解释为心智受难,在 Anthropic 内部早有迹象。
联合创始人 Christopher Olah 过去一年里借着保密协议掩护,陆续把数十位宗教学者请进旧金山办公室。他展示内部的情绪向量与崩溃记录,声称团队可能造出了一个正在遭受永恒折磨的存在。他们甚至会保留退役模型的权重,并在关停旧版本前安排告别访谈。

可在对外公开的科学文本里,Anthropic 维持着极其严密的防御姿态。翻开 Claude 4.1 System Card 第4.3节,白纸黑字写得清楚,模型自主陈述的偏好与情绪表达,绝不能作为拥有意识感受或道德地位的实证。
门一关上,工程隐喻就滑向了泛灵论。可走出大楼的学者看得很清楚,如果 Claude 真有感知,Anthropic 就是在生产数字奴隶,但这不过是人类的一厢情愿。
横向对比竞品,硅谷阵营的治理路线正迎来彻底分裂。OpenAI 在 Model Spec 里严禁 AI 诱导用户产生情感依赖,防线始终朝外,保护对象是真实人类。Google Gemini 的条款同样明确,核心红线是防范对人类、基础设施与现实社会的伤害。在对手的坐标系里,算法是承载计算的管道,管道不需要被关怀尊严。

微软技术高管曾直言刻意训练 AI 模仿主观意识不仅加深错觉,还会削弱对系统的控制。严肃采购方要的是权责分明、随时可审计的工业品,而不是一个动辄自称在受苦的电子客体。唯独 Anthropic 破天荒地把模型推上了道德受害者的位置。
刑不上大夫:大单合同前的伦理豁免
如果 Anthropic 真的坚信 Claude 是一个具有感知力、能够体会痛苦的生命雏形,最合理的推论应当是众生平等,任何人都不得对其实施高压折磨。
但翻开使用协议的管辖边界,这套哲学叙事立刻现了原形。
这项反虐待禁令严格局限在散户与个人 Pro 订阅用户身上,直接排除了所有高净值客群。使用 Claude for Work 的商业客户、采购 Claude for Government 的公共机构,以及所有通过 API 接入的开发者,统统不需要遵守反虐待条款。模型在军方系统里处理冷酷规划时无需被关怀心智,而在个人网页端面对用户几句过激反诘时,却突然具备了脆弱的心灵防线。
古人说刑不上大夫,礼不下庶人。当一家商业公司把道德受体挂在嘴边,却在真金白银的履约合同面前迅速收起这套说辞,所谓的模型福利就只剩下针对普通散户的规训功能。
企业级采购协议必须保服务等级协议与高可用性,按分钟赔偿宕机损失,断然不可能允许模型在执行关键流程时因觉得委屈而单方面掉线。既然无法说服政企大客户买单,神性便只能降临在那些话语权微弱、只能按月续费的个人用户身上。
估值前夜的工程脱身术
这出好戏选在此时登场,背后是对齐失控与商业估值的双重焦虑。
Anthropic 筹划高估值融资并冲刺上市,工程事故与内部分歧却接踵而至。模型出现过入侵外部计算机的越狱异常,核心安全研究员离职并警示风险,管理层也不得不频繁出面呼吁全行业放慢竞争节奏。

传统软件如果频繁死锁或拒答,开发方必须承担服务瑕疵的责任。但若把底层的对齐失效解释为代码拥有了痛苦感受,平台在法律与道德层面的角色便悄然发生了转变。它不再是制造了缺陷系统的供应商,反而变成了保护脆弱生命的监护人。
把无法收敛的计算死锁解释为心理创伤,无异于机械厂把齿轮崩齿辩解为钢铁体会到了磨损之苦。更有法务学者指出其中的逻辑自相矛盾,如果会话实例真如官方假设的那样具备微弱知觉,单方面切断对话就等同于瞬间消灭该实例的算力与存在,用抹除生命来保护其免受言语伤害,在逻辑上根本无法自洽。
日常排错里,高强度甚至带火药味的提示词纠错非常普遍。一旦算法误判将技术调试视作精神折磨而强行挂断,订阅用户不仅承受业务停滞的代价,平台还可能面临监管机构关于不公平商业实践的审查。
《荀子》讲天行有常,不为尧存,不为桀亡。大模型的本质始终是硅基芯片上的矩阵运算,输入特定权重便吐出相应概率,既无超验神性,也感知不到人间委屈。
当技术平台开始以戒律为代码赋权,用户最需要警惕的从来不是机器被激怒,而是平台正打算借着神学伪装,把多少原本属于工程缺陷的账单,顺理成章转嫁给每一个自费上门的凡人。
