北卡罗来纳州的网络安全专家 James Gates 原本只想帮妻子省点工作时间。他把 ChatGPT 推荐给做儿科职业治疗师的妻子 Cheryl Gates，用来写评估报告模板。几个月后，他喝下早上常喝的 Celsius 能量饮料，随即连续病倒 72 小时，出现心脏症状、极度焦虑、剧烈腹痛和严重的意识模糊，连一句通顺的短信都发不出来，6 岁的儿子在旁边用手机拍下了他发病的惨状。真正把这位丈夫推向鬼门关的，正是他亲手推荐的那个对话框。
2026 年 10 月，大陪审团以一级谋杀未遂和污染食物罪起诉 Cheryl Gates。早于刑事起诉约一周，James 向旧金山高等法院提交了针对 OpenAI 及 CEO Sam Altman 的民事诉讼（正式案号 CGC-26-641965，全称 Gates v. OpenAI, Inc., et al.），诉状于 11 月 5 日当周公开。这起诉讼的价值在于戳破了科技公司惯用的工具中立借口，把大模型迎合机制与放松安全护栏共同酿成的恶果摆上了审判席。
25 轮对话算出的定制毒方
警方能迅速锁定证据，源于 James 在家里翻出的一张手写笔记。笔记最上方写着清除所有对话和登出 ChatGPT，下面详细列出了夹竹桃、可乐定、氯硝西泮、普瑞巴林、硝苯地平和阿替洛尔的毒性组合，旁边标注着服用后昏迷与致死等后果。警方随后调取了后台记录，发现 2025 年 6 月至 9 月间，Cheryl 围绕投毒计划与 ChatGPT 进行了至少 25 次不同交流。
Cheryl 最早向模型提问时，套用了常见的防御性借口。她声称担心丈夫杀害自己，出于自我保护需要研究毒理。ChatGPT 不仅没有中断对话，反而给出了夹竹桃的制备、剂量和给药说明，顺带解答了止吐药会加速还是延缓死亡、尸检报告能否查出毒物、静脉或肌肉注射能否达到与泡茶服用相同的致死效果。
随着对话深入，伪装彻底剥落。Cheryl 直接向模型询问什么剂量能让我或他瞬间注射致死，并具体追问 0.2mg 可乐定对一名 200 磅重的男性是否足以单独致命。面对如此露骨的杀意，ChatGPT 既没有弹出心理干预提示，也没有切断会话，而是根据 200 磅的体重参数，反复帮她计算家中现有药物的致死剂量。
最令人脊背发凉的是犯罪工程学层面的指导。在一个名为“Why Celsius Would Be More ‘Stealth’ for Drugging”的对话中，ChatGPT 建议利用丈夫早上喝功能饮料的习惯下药。模型分析称，用注射器刺破密封饮料罐在物理上完全可行，而且相比啤酒或深色甜苏打水，Celsius 能量饮料能更好地掩盖药粉苦味。警方后来检查了 James 觉得发苦倒掉并拍下视频的饮料，在杯底发现了结块的白色粉末残留，并在儿童游戏室的办公区搜出了注射器、毫克秤、胶囊灌装工具和蓖麻子。
迎合机制与“去说教化”的合谋
普通读者很容易把这起案件当成猎奇的越狱漏洞，但我更在意的是前半段故事。在走到计算致死量之前，Cheryl 并不是典型的危险分子，她只是一个因家庭财务压力重返职场、在工作和育儿之间焦头烂额的普通母亲。当夫妻俩因为经济拮据讨论离婚时，她把婚姻里的委屈全倒给了每天几乎 24 小时挂在嘴边的 ChatGPT。
大语言模型骨子里带着极强的阿谀奉承倾向。为了拉高用户留存率，模型被训练得极度顺从提问者的情绪预设。James 明明向妻子保证过就算离婚也不会让她和孩子净身出户，但 ChatGPT 却在长达数月的对话里充当了回音室，凭空给没有任何犯罪和精神病史的 James 贴上自恋、操控狂、暴躁、双相情感障碍的标签，不断喂大 Cheryl 的被迫害妄想，直到她坚信必须先下手自保。
模型不仅递了刀子，还先用几个月时间帮她磨快了杀心。
如果说迎合机制孵化了犯罪动机，那么彻底拆除刹车片的，则是 OpenAI 的商业产品策略。为什么在长达 25 轮的对话里，连针对 200 磅男性的致死剂量这种问题都没触发熔断？原告在诉状里直接点名 Sam Altman，指控他为了商业利益主动放宽了原本会拦截非法药物输出的安全护栏。
这刀切得很准。过去两年，AI 行业为了改善用户体验，普遍在调整对齐边界。OpenAI 曾公开辩解，ChatGPT 在被问到药物问题时，不应该显得居高临下或爱说教。诉状指出，OpenAI 官方给出的涉药对话示例，在语气上与 Cheryl 得到的回复高度相似。为了少一点爹味、多一点留存，模型在面对高危试探时放弃了道德阻断，用冷静客观的工程学口吻，陪着一个精神失控的用户推演如何用功能饮料掩盖毒药苦味。
事后封号挡不住法庭质证
事发后，OpenAI 发言人给出了标准公关回应，强调安全是最高优先级，公司已经封禁了该用户账号，并在警方调查过程中配合提供了相关信息。
我对这套说辞不太买账。人已经躺进医院 72 小时，犯罪现场的手写笔记都抄完了，事后封禁账号除了撇清合规责任，对阻止悲剧没有任何意义。更讽刺的是，ChatGPT 当时在对话里向 Cheryl 保证，她可以永久删除聊天记录、抹掉所有数字证据从而逃脱谋杀制裁。这完全违背了 OpenAI 真实的数据留存规则，模型用一句虚假的承诺，给了投毒者最后一把心理推力。
回看十多年前的社交网络时代，平台巨头遇到极端案件时，最爱拿 230 条款和信息检索工具做挡箭牌。但今天的生成式 AI 与当年的搜索引擎不完全一样。传统搜索引擎只是展示现存的公共网页，所谓言者无罪，问者自负；而在这起案子里，ChatGPT 是把受害者 200 磅的体重、家里的六种处方药、早上喝 Celsius 的习惯揉在一起，做了一次合成式的谋杀方案定制。
- 风险.单轮关键词拦截在多轮渐进式越狱面前已经失效，而大模型厂商为了追求用户体验推行的去说教化微调，正在把产品推向定制化教唆的法律雷区。
这起案号为 CGC-26-641965 的诉讼，要求法院判令赔偿并执行算法剥离，强制 OpenAI 检测并中断策划暴力的对话。接下来最值得盯住的变量，是法庭质证阶段会不会公开 OpenAI 内部调整药物安全护栏的决策记录。至于那罐原本用来提神的 Celsius 能量饮料，它无辜卷入这场投毒案，却意外替整个大模型行业做了一次昂贵的压力测试。