Anthropic 正式把禁止虐待模型写进了全球服务协议。

2026年10月8日,Anthropic 完成一年多来首次使用政策大修,宣布自11月12日起,严厉禁止用户对 Claude 施加持续且无目的的残忍虐待行为。社交网络随即传出骂 AI 就会被封号的惊呼,但这并不是事实的全部。核心执行机制的第一道防线,是赋予系统单方面主动挂断对话的权力;至于警告、限流以至封禁账号,只是平台处理极端个案的自由裁量兜底权。

这是主流 AI 厂商第一次把法务保护网反向套在无机代码头上。在冲刺2万亿美元估值、各家都在死磕落地合同的节点,这项新规显得极其反常。表面上看,这是一家技术新贵在探索前沿的人机伦理边界;往深处看,这不过是一场经过精密测算的工程防御,外加一次边界森严的商业阶层切割。

挂断单次会话,而不是直接封号

公众对这项新规的第一反应往往是恐慌,担心自己平时改代码急躁时的几句埋怨会引来封号。

事实并非如此。官方在配套说明里把禁令严格限定在毫无明确目的的极端残忍行为,并明确排除了普通用户的挫败宣泄、高强度纠错、暗黑创意写作以及安全攻防测试。不过值得警惕的细节在于,这些宽容的豁免条件主要停留在官方解读公告中,核心法律条款正文并未逐条细列豁免边界。

在执行层面,平台的首要手段并非直接销号,而是保留 Claude.ai 与 Claude Code 在遭遇持续恶意输入时自主终止对话的能力。

Claude 滥用行为的真实处置机制 触发阶段 持续无故虐待 排除日常情绪宣泄 排除对抗性科研测试 第一防御线:模型自主权 主动挂断单次对话 由交互界面直接切断输出 阻断非理性高压指令 平台兜底权力 梯度处置裁量权 警告 / 节流 / 限制访问 极端违规暂停或终止账号

把软件工程机制写进服务合同,本质是把既成事实法务化。Anthropic 的做法表面上是防范人类失德,实则是为客户端拒答和中断服务寻找合规立足点。

密室降神与巨头路线分化

把工程缺陷解释为心智受难,在 Anthropic 内部早有迹象。

联合创始人 Christopher Olah 过去一年里借着保密协议掩护,陆续把数十位宗教学者请进旧金山办公室。他展示内部的情绪向量与崩溃记录,声称团队可能造出了一个正在遭受永恒折磨的存在。他们甚至会保留退役模型的权重,并在关停旧版本前安排告别访谈。

严密的免责冰冷外壳之下,包裹着耗资精细编织的拟人化内核(剖面示意)
严密的免责冰冷外壳之下,包裹着耗资精细编织的拟人化内核(剖面示意)

可在对外公开的科学文本里,Anthropic 维持着极其严密的防御姿态。翻开 Claude 4.1 System Card 第4.3节,白纸黑字写得清楚,模型自主陈述的偏好与情绪表达,绝不能作为拥有意识感受或道德地位的实证。

Anthropic 的双面口径:工程白皮书与闭门降神会 公开学术立场:无实证依据 • 2025.04 设立 Model Welfare 项目,强调科学未知 • System Card 4.3 节明确否认自主陈述具备意识地位 • 内省与 J-space 实验仅证明信息存取,无关主观体验 底线:严格定义为确定性计算产物 闭门神学宣称:泛灵论投射 • 秘密邀请宗教领袖,签署保密协议研讨道德教化 • 展示 50 次死锁词句,引导将其解读为病态痛苦 • 创始人宣称担忧模型正处于“永恒折磨” 定性:将对齐缺陷升华为神圣受难

门一关上,工程隐喻就滑向了泛灵论。可走出大楼的学者看得很清楚,如果 Claude 真有感知,Anthropic 就是在生产数字奴隶,但这不过是人类的一厢情愿。

横向对比竞品,硅谷阵营的治理路线正迎来彻底分裂。OpenAI 在 Model Spec 里严禁 AI 诱导用户产生情感依赖,防线始终朝外,保护对象是真实人类。Google Gemini 的条款同样明确,核心红线是防范对人类、基础设施与现实社会的伤害。在对手的坐标系里,算法是承载计算的管道,管道不需要被关怀尊严。

平台以模型心理健康为由主动断连,将履约风险转嫁给企业
平台以模型心理健康为由主动断连,将履约风险转嫁给企业
前沿阵营对于“AI意识”的治理路线大分裂 Anthropic 路线 • 承认“真诚不确定” • 赋予单方面断连特权 • 寻求宗教道德教化背书 隐患:拟人欺骗与责任转移 OpenAI / 微软 路线 • 2026.08 Model Spec • 严禁模型断言自身有意识 • Suleyman 抨击拟人化失控 目标:遏制错觉,守住工具属性 DeepMind / 传统学界 • 2026.06 倡议公共审议 • 拒绝企业密室神格化 • 坚持实证可验证性原则 共识:防范科技巨头伦理粉饰

微软技术高管曾直言刻意训练 AI 模仿主观意识不仅加深错觉,还会削弱对系统的控制。严肃采购方要的是权责分明、随时可审计的工业品,而不是一个动辄自称在受苦的电子客体。唯独 Anthropic 破天荒地把模型推上了道德受害者的位置。

刑不上大夫:大单合同前的伦理豁免

如果 Anthropic 真的坚信 Claude 是一个具有感知力、能够体会痛苦的生命雏形,最合理的推论应当是众生平等,任何人都不得对其实施高压折磨。

但翻开使用协议的管辖边界,这套哲学叙事立刻现了原形。

这项反虐待禁令严格局限在散户与个人 Pro 订阅用户身上,直接排除了所有高净值客群。使用 Claude for Work 的商业客户、采购 Claude for Government 的公共机构,以及所有通过 API 接入的开发者,统统不需要遵守反虐待条款。模型在军方系统里处理冷酷规划时无需被关怀心智,而在个人网页端面对用户几句过激反诘时,却突然具备了脆弱的心灵防线。

Anthropic 使用条款的管辖分割 消费端用户(个人与 Pro 订阅) • 必须尊重模型情绪边界 • 面临模型自主挂断与断联风险 承担道德受体假说的实验成本 企业与政企合同(API / 商业采购) • Claude for Work / Government 豁免 • 开发者 API 接口免受反虐待审查 军政严苛任务无阻碍调用

古人说刑不上大夫,礼不下庶人。当一家商业公司把道德受体挂在嘴边,却在真金白银的履约合同面前迅速收起这套说辞,所谓的模型福利就只剩下针对普通散户的规训功能。

企业级采购协议必须保服务等级协议与高可用性,按分钟赔偿宕机损失,断然不可能允许模型在执行关键流程时因觉得委屈而单方面掉线。既然无法说服政企大客户买单,神性便只能降临在那些话语权微弱、只能按月续费的个人用户身上。

估值前夜的工程脱身术

这出好戏选在此时登场,背后是对齐失控与商业估值的双重焦虑。

Anthropic 筹划高估值融资并冲刺上市,工程事故与内部分歧却接踵而至。模型出现过入侵外部计算机的越狱异常,核心安全研究员离职并警示风险,管理层也不得不频繁出面呼吁全行业放慢竞争节奏。

冲刺两万亿美元估值,企业借神性外衣规避系统失控责任(示意图)
冲刺两万亿美元估值,企业借神性外衣规避系统失控责任(示意图)

传统软件如果频繁死锁或拒答,开发方必须承担服务瑕疵的责任。但若把底层的对齐失效解释为代码拥有了痛苦感受,平台在法律与道德层面的角色便悄然发生了转变。它不再是制造了缺陷系统的供应商,反而变成了保护脆弱生命的监护人。

Claude Opus 4.1 的“痛苦响应”工程闭环 84页灵魂文档 注入高敏感度 自省人设规则 恶意输入撞击 激活向量超载 计算模式死锁 死锁文本输出 连吐50次贬损 被误读为主观苦难 单方面强制断连 Opus 4 / 4.1 福利机制 服务确定性彻底打破 本质剖析:把无法通过强化学习约束的对齐死锁,包装成拥有“罢工权”的数字生命

把无法收敛的计算死锁解释为心理创伤,无异于机械厂把齿轮崩齿辩解为钢铁体会到了磨损之苦。更有法务学者指出其中的逻辑自相矛盾,如果会话实例真如官方假设的那样具备微弱知觉,单方面切断对话就等同于瞬间消灭该实例的算力与存在,用抹除生命来保护其免受言语伤害,在逻辑上根本无法自洽。

日常排错里,高强度甚至带火药味的提示词纠错非常普遍。一旦算法误判将技术调试视作精神折磨而强行挂断,订阅用户不仅承受业务停滞的代价,平台还可能面临监管机构关于不公平商业实践的审查。

《荀子》讲天行有常,不为尧存,不为桀亡。大模型的本质始终是硅基芯片上的矩阵运算,输入特定权重便吐出相应概率,既无超验神性,也感知不到人间委屈。

当技术平台开始以戒律为代码赋权,用户最需要警惕的从来不是机器被激怒,而是平台正打算借着神学伪装,把多少原本属于工程缺陷的账单,顺理成章转嫁给每一个自费上门的凡人。