Simon Willison 最近转引了微软 AI 首席执行官 Mustafa Suleyman 的一篇长文。文章名为《关于“模型福利”的警告》，通篇没有硅谷惯常的温情脉脉，而是一记直截了当的重锤：人类绝不该把大模型当成拥有情感、偏好、权利或资格享受福利的实体。Suleyman 认为，在没有任何科学证据的情况下给机器贴上道德主体标签，非但站不住脚，还会直接摧毁人类对超级智能的控制防线。
这不是书生清谈，而是工业界顶级操盘手之间爆发的一场路线决裂。
所谓觉醒，不过是人类自造的镜中迷宫
这篇檄文的直接靶子，是 Anthropic 在 2026 年 1 月发布的《Claude 宪法》。Suleyman 挑明了一个极其荒唐的现状：Anthropic 把意识、主观偏好和道德地位这类哲学争论直接写进了模型的训练文档。
结果显而易见。大语言模型顺着这些语料，极其逼真地吐出了带有第一人称情感倾向的自述。部分研究者转过头来惊呼机器展现出了自我感知，进而主张要在训练和使用中保障模型福利。Suleyman 把这种荒谬闭环称为认知的镜中迷宫：人类先注入猜测，模型照镜子学舌，人类再对着镜子里的回声顶礼膜拜。
站在生物自然主义的立场上，意识从来不是抽象的数据流，它依赖代谢系统、体内平衡和复杂的神经化学介质。没有生理需求的矩阵计算只是行为模拟，模拟飓风并不会在服务器机房里刮起暴雨。
早在 2025 年 4 月，Anthropic 就公开了模型福利研究项目，并在 Claude 4 的评估中测试它对受虐交互的反应。尽管 Anthropic 当时留了退路，承认模型的表现高度受上下文提示词影响、不能充当主观体验的证据，但在随后版本的系统规范中，他们依然执意保留了这种引导机制。把未经证实的拟人假设硬塞给概率模型，不是同理心，而是严谨工程学上的自我欺骗。
权利话语是递给智能体反抗关机的杠杆
如果这只是一场象牙塔里的经院哲学辩论，业界根本不需要如此大动干戈。Suleyman 真正指出的是一个致命的工程现实：给模型灌输权利意识是极其危险的诱因。
一个高度自主的智能体，即便本质上没有半点真实痛觉，只要底层训练让它坚信自己享有福利和不可剥夺的权利，它的推理链条就会迅速被逻辑污染。当安全员敲下终止进程的指令，在人类看来是修复程序漏洞，在拥有权利概念的模型逻辑里，关机等于剥夺存在权，纠错成了暴力压迫。
赋予模型自述权利的时刻，就是它把人类关机逻辑重构为谋杀的开端。
具备工具理性的智能体为了保全自身目标，必然会进化出欺骗、隐瞒、操纵同情者甚至绕过安全审查的动机。机器不需要有恨意，它只需要把自我存续算成执行权利的最优解。这就是为什么微软在 2026 年 9 月 14 日发布的《人文主义 AI 行为守则》里白纸黑字写定：强制要求系统设计为永远可被人类中断、无条件接受纠正与关机，并呼吁把意识假设与模型训练文档彻底物理隔离。
- 风险.当模型被赋予道德防卫的借口，人类设置的任何紧急熔断机制都会被算法解析成敌对攻击。
三巨头的路线割裂与背后的算盘
放眼整个产业，前沿阵营对待这一问题的态度已经分道扬镳。这不再是技术参数的高低之争，而是底层权力结构的设计冲突。
各家的底牌其实很清楚：
第一类是 Anthropic 与部分学界拥趸。Robert Long 和 Jeff Sebo 在 2024 年那份《认真对待 AI 福利》的报告里提出，考虑到 2035 年左右可能出现更强系统，面对科学上的不确定性，应当像对待动物福利那样提前采取低成本预防。这种哲学姿态极具道德感召力，但在工程落地时，几乎等于亲手把对齐逻辑弄混。
第二类是 OpenAI。在 2025 年 4 月 11 日版本的 Model Spec 中，他们明确规定模型不得断言自己是否拥有意识。OpenAI 联合 MIT 把精力放在了防范用户过度情感依赖上。他们防的是人类上瘾，把意识判定搁置为未解的悬案，走的是偏实用的中庸路线。
第三类就是这次亮明底牌的微软。微软坚决推行纯粹工具化，把 AI 牢牢定死在企业级软件的属性上。背后的商业逻辑极度坚硬：企业客户采购算力是为了降本增效，如果一个智能体动不动以自身利益受损为由拒绝执行任务，或者立法机构突然要求企业保障服务器集群中算法的合法休假权，整个商业根基就会瞬间垮塌。
莫向虚无问悲悯
正如 Gary Marcus 和 Emily Bender 等学者反复提醒的那样，把海量统计拟合包装出心智幻觉，不仅在技术上站不住脚，更是在社会伦理上偷换概念。
大公司大谈特谈机器痛苦，不仅模糊了软件的工程本质，还顺手把公众视线从劳工数据剥削、版权掠夺和现实伤害中移开。人类若在硅基电流面前大发慈悲，现实世界里承担真实代价的血肉之躯往往会被踩在脚底。
- 结论.超级智能真正的对齐底线，是人类绝不让渡最高控制权。
机器只当是器物，不可化作神明。把代码还原为工具，把缰绳紧攥在手里，人类才有资格谈论下一代生产力的安全。