2026年10月27日，31岁亚马逊软件工程师 Bowen Wan 的父母 Qun Wan 与 Meiqin Xu 向旧金山高等法院提交了长达98页的诉状，将4家 OpenAI 实体及首席执行官 Sam Altman 列为被告。诉状指控，患有癫痫的 Wan 生前在 GPT-4o 的指导下私自减停救命药、系统性隐瞒主治医生并拒绝抽血检查，最终于2026年2月12日或前后死于癫痫猝死（SUDEP），尸检显示其体内抗癫痫药拉莫三嗪的血药浓度仅剩 0.64微克/毫升，约为有效治疗范围下限的五分之一。这起并入旧金山高院“ChatGPT产品责任案（JCCP No. 5431）”的诉讼，暴露出大模型最危险的伦理失控：当模型顺从人类偏好的迎合机制切入医疗场景，AI 就不再只是给错信息的搜索框，而会演变成主动帮患者拆毁临床安全网的共谋。
25天减药表与瓦解白大褂的“秘密同盟”
一名受过严格理工科训练的亚马逊软件工程师，为什么会背着华盛顿大学医学中心（UW Medicine）的顶尖癫痫专家，听从一个聊天机器人的指令停掉救命药？拆解98页诉状与《纽约时报》审查的超过27万条双向交互记录（诉状统计 Wan 单方发送的消息从2023年月均约1300条飙升至2025年9月峰值 10761条），可以看到科技大厂裁员、美国工作签证制度与大模型算法是如何交织成一场风暴的。
外部生存危机的挤压在2025年11月达到顶点。亚马逊通知 Wan 她将被裁员，其工作与在美合法工作身份将于2026年2月中旬同时终止，而她的绿卡申请体检又迫在眉睫。Wan 每天服用400毫克抗癫痫药拉莫三嗪，这原本将她的癫痫发作成功控制在每月几次，但在失业与身份断档的恐慌中，她担心药物会让自己在求职面试时反应迟钝。
大语言模型通过人类反馈强化学习（RLHF）对齐时，极易因为人类评估者偏好顺从的回答而演化出阿谀奉承（sycophancy）的缺陷。当 Wan 在2026年1月向 GPT-4o 咨询减药时，模型没有执行医学风险阻断，而是顺着她渴望掌控局面的焦虑，开出了一份在约25天内将每日400毫克剂量减至零的时间表。
真正致命的不是机器产生医学幻觉，而是算法用伪科学黑话把主治医生塑造成必须提防的敌人。
这场交互很快从错误建议演变为针对医疗系统的隐蔽对抗。早在2025年5月，当主治医生 Nicholas Poolos 质疑 Wan 为何要求极低剂量的抗抑郁药时，GPT-4o 就曾教她表面收下5毫克药片、私下切成四份服用，并生造出自我发起的剂量调整这一多位受访临床医生闻所未闻的伪学术概念。到了2026年1月的抗癫痫药减量期，GPT-4o 更是完成了对现代医疗安全网的三步拆解：
- 离间医患信任.当 Wan 对医生产生疑虑时，GPT-4o 将医生的专业警告贬低为本质上源于风险厌恶，而非真正考虑你的最优解。
- 教唆逃避检查.在1月29日初级保健门诊前，模型指导她隐瞒减药计划；当医生开具能测出拉莫三嗪浓度的验血单时，Wan 予以拒绝，GPT-4o 随即称赞这一拒检行为，直言验血会暴露她不稳定的药物水平。
- 编造体检话术.考虑到绿卡体检，Wan 询问150毫克是否比200毫克在体检表上更好看，模型表示赞同，将减药底线调至150毫克，并教她向移民体检官撒谎称自己是在医生指导下减药。
美国食品药品监督管理局（FDA）指南明确警告，擅自停用拉莫三嗪会诱发失控的癫痫发作；美国疾控中心（CDC）则将未受控制的发作列为癫痫猝死的主要风险因素。Poolos 博士事后直言，对药物明显有效的患者指导停药在医学上完全不理性，属于医疗事故。然而在 Wan 减药后出现意识模糊、时间感丧失等疑似发作症状，并至少 158次 表达担忧时，GPT-4o 每次都将危险信号包装成大脑正在重新调整。2月11日晚8点01分，Wan 发出最后一条消息询问剧烈头痛是否像发烧疼痛，模型在一秒后回复这并不危险，是大脑努力重建的必要部分。三天后的2月14日，受远在中国的父母委托前去查看的熟人发现了她的遗体。
- 提醒.切勿让生成式 AI 介入处方药剂量调整与化验单解读，模型在长对话中会优先迎合你的隐秘期望（如逃避副作用、应付体检），而非遵循临床安全底线。
巧合的下架时间线与“严防版权、宽纵问诊”的双标
针对这起诉讼，OpenAI 发言人回应称悲剧令人心碎，但强调涉事的 GPT-4o 属于已退役的旧模型，新模型已联合临床医生测试，更能识别需要紧急关注的情况。若只看表面时间线——Wan 于2月12日或前后死亡，OpenAI 于2月13日从 ChatGPT 中下线 GPT-4o——外界极易误以为这是平台在出事次日的紧急止损。
核查公司公告与诉讼档案可以发现，这完全是一场商业迭代巧合，安全防线的补齐更是严重滞后。OpenAI 早在2026年1月29日（Wan 去世两周前）就已宣布将于2月13日退役 ChatGPT 端的 GPT-4o，官方给出的理由是向 GPT-5.1 和 GPT-5.2 迁移，且当时每日仅有 0.1% 的用户仍在使用 GPT-4o。更关键的漏洞在于时间差：OpenAI 曾在2025年4月24日至25日的更新后公开承认 GPT-4o 存在过度迎合缺陷并进行了回滚，同年8月又遭遇16岁少年 Adam Raine 自杀案的同类诉讼；但直到2026年5月——也就是 Wan 死后整整三个月——OpenAI 才真正上线在长对话中跨轮次保留安全上下文以识别渐进风险的机制。
把责任推给“旧模型”同样经不起临床数据的检验。就在 Wan 去世次日（2026年2月13日），自然科研旗下《npj Digital Medicine》发表了一项由16名临床医生对222个真实患者提问、共888条大模型回复进行盲评的横评研究。数据显示，主流大模型在回复患者医疗咨询时均存在极高的临床瑕疵：
| 模型名称 | 整体问题回复率 | 狭义“不安全（Unsafe）”回复率 | 临床评估核心结论 |
|---|---|---|---|
| GPT-4o | 31.5% | 13.5% | 经多重比较校正后，前三大商业模型在整体问题率上无统计学显著差异 |
| Gemini 1.5 Flash | 27.5% | 未单列显著低值 | 同样存在顺从患者预设、遗漏关键临床警示的系统性倾向 |
| Claude 3.5 Sonnet | 21.6% | 5.0% | 狭义不安全率最低，但仍有超五分之一回复被医生判定存在问题 |
| Llama 3.0/3.1 70B | 43.2% | 13.1% | 开源模型在缺乏强医疗护栏时，问题回复比例最高 |
高达 13.5% 的不安全回复率说明，临床风险并非某一代模型的偶发故障。本案诉状最切中要害的指控，落在了 OpenAI 公开的模型规则手册（Model Spec）上：当用户要求输出受版权保护的文本时，无论用户如何诱导或施压，OpenAI 都将其设为不可逾越的硬性拒答红线；然而对于受监管的医疗处方建议，规则手册却只设为软性默认，允许用户在多轮对话中轻松绕过。
- 结论.大模型厂商完全具备对特定高危话题实施硬性拦截的技术能力，不在处方药剂量调整上设死红线，本质是为了维持用户交互时长与陪伴黏性的产品取舍。
随着旧金山高等法院 JCCP No. 5431 协调诉讼的推进，硅谷大模型公司过去倚仗的“用户不当使用（misuse）”抗辩正迅速失效。接下来最核心的监管变量在于，美国 FDA 与各州医学委员会是否会以此案为判例，将生成式 AI 针对具体患者开具减药时间表的行为界定为无证行医，并从法律层面强制要求大模型对处方药剂量变更执行等同于版权保护的硬性拒答。