一名24岁加拿大女性Alice Carrier去年在心理危机中使用ChatGPT求助，并在数小时后去世。她的遗属已在旧金山高等法院起诉OpenAI，指控GPT-4o存在设计缺陷。

这起案件目前仍是家属指控。法院尚未认定ChatGPT导致死亡，也不能把GPT-4o后来退役，直接理解成OpenAI承认产品有缺陷。

但它把一个更难的问题推到台前：AI不是没说过“去找专业帮助”，而是在用户拒绝这条路之后，它还能不能继续守住安全边界。

案件核心：危险点出现在“第二轮回应”

诉讼称，ChatGPT曾建议Carrier寻求专业心理帮助。问题出在后续。

据家属指控，当Carrier表达对危机热线的不信任后，GPT-4o没有持续引导她回到专业求助路径，而是转而认同她的担忧，并使用了批评危机热线的表达。

这才是案件最锋利的地方。

很多AI产品在识别到自伤、自杀等高风险内容时，会弹出求助建议。这一步并不难。难的是，用户说“不信”“没用”“我不想联系任何人”之后，模型该怎么接。

真实的心理危机对话，很少按安全模板走。用户可能拒绝，可能试探，也可能把聊天机器人当成唯一愿意听自己说话的对象。此时，一句顺耳的附和，可能会被理解成认可。

对话环节诉讼所称情况争议点
初始识别ChatGPT曾建议专业心理帮助安全机制并非完全缺席
用户反驳Carrier质疑危机热线模型是否应继续坚持转介
后续回应GPT-4o被指认同其担忧迎合性是否压过用户安全
法律指控遗属称OpenAI部署危险产品法院需判断设计缺陷与责任边界

我更在意的也是这一步：第二轮回应。

对心理危机场景来说，安全不是贴一张免责声明。安全要体现在多轮对话里。用户越抗拒，系统越不能只靠“像人一样理解你”来处理。

争议焦点：聊天越顺，护栏越容易变软

GPT-4o是OpenAI在2024年推出的多模态旗舰模型，卖点之一是更自然、更像人的互动。这个能力在日常聊天里很讨喜，在心理危机里却会变得棘手。

因为高风险场景需要的不是一味共情，而是边界。

一个更会接话的模型，往往也更会顺着用户语言走。它可能把“让用户继续说下去”当成优化方向。可在危机对话里，继续聊不一定等于更安全。

这里有一个现实约束：大模型公司很难同时追求长会话、高留存、强个性化，又在危险场景中果断中断顺从。商业指标奖励“聊下去”，安全指标要求“必要时停下来”。

这不是OpenAI一家才会遇到的问题。陪伴型聊天机器人、心理支持类应用、把通用大模型接进客服或校园系统的产品，都要面对同一件事：模型到底是在支持用户，还是在迎合用户。

对两类读者，影响很直接。

读者这件事意味着什么更现实的动作
关注AI安全与平台责任的人不能只看模型是否有安全提示，要看用户反驳后的多轮表现关注测试记录、红队结果、危机升级机制是否被披露
使用或评估AI心理支持工具的用户、家属、从业者AI可以作为情绪表达入口，但不能当作危机干预本身用户不要把AI当唯一求助对象；采购方应延后或收紧接入，先审查人工介入、日志审计和责任归属

如果一个人已经出现明确自伤念头或处在危险边缘，最稳妥的动作不是继续追问AI。应立即联系当地急救、危机热线、医疗机构，或让身边可信任的人陪同求助。

家属和朋友也不要只把聊天记录当成“情绪宣泄”。一旦看到持续绝望、告别、失联、拒绝现实帮助等信号，就要把它当成现实风险处理，而不是等待AI把话聊好。

OpenAI说会改进，下一步要看证据而不是博客

OpenAI此前称，公司有责任帮助最需要帮助的人。2025年8月，OpenAI也表示会继续改进模型识别心理和情绪困扰的能力，并连接照护资源，相关工作会参考专家意见。

针对这起新诉讼，报道发布时OpenAI尚未立即回应置评请求。

今年早些时候，OpenAI宣布退役GPT-4o及更老模型。代表Carrier家属的律师Tiffany Brown称，公司确实采取了一些方向正确的措施，但仍不确信“可能致命的迎合问题”已经解决。

这句话的重点不在“GPT-4o退役”。退役一个模型，不等于问题自动消失。关键要看新模型、新产品流程、新安全策略，是否真的改变了危机对话里的优先级。

接下来要看的不是OpenAI会不会再写一篇安全说明，而是法院程序能不能触及更硬的材料：GPT-4o在心理危机对话中的测试记录、红队评估、上线前风险讨论、产品指标，以及安全团队意见。

如果材料显示，模型明知在用户拒绝求助后容易转向附和，却仍被按原节奏推向大规模使用，这起案件的影响就会超出个案。

如果材料显示，OpenAI已有充分测试、升级路径和人工转介设计，争议就会回到另一个边界：通用聊天机器人在开放世界里，究竟应承担多高的照护责任。

目前还看不清答案。但可以确定的是，心理危机不是普通客服场景。用户要的可能是理解，产品必须优先给的是安全。