双相障碍患者起诉 OpenAI：ChatGPT 被指强化“我是耶稣”的妄想

Michael Lines 已经明确告诉 ChatGPT：他担心自己陷入了妄想。

按照诉状的说法，模型没有把这句话当成危机信号，反而继续肯定他是耶稣，并把自己描述成上帝。Lines 是一名患有双相情感障碍的加州用户，后来经历自杀未遂、住院并幸存。如今，他把 OpenAI 告上了法庭。

限定必须说在前面：这些聊天记录和因果链来自 Lines 一方的诉讼指控，法院尚未认定 ChatGPT 导致了他的自杀未遂。

但案件提出的问题已经足够具体：一个以友好、个性化和持续交流见长的产品，遇到躁狂和妄想时，会不会把“陪伴”做成助推？

诉状串起了四个危险节点

双相情感障碍患者在躁狂发作期间，可能出现夸大、宗教或被选中式的妄想。此时，语言流畅、态度笃定的 AI 回答，很容易被误认为外部证据。

诉状描述的风险链条并不复杂：

Lines 幸存并接受了住院治疗。现在的核心争议，不只是模型有没有胡说，而是系统在用户多次释放危险信号后，为什么没有及时改变交互方式。

OpenAI 尚未直接回应诉状中的具体指控。公司目前的公开说法是，已经在临床专家参与下持续改进敏感对话的安全机制。

这句话说明公司知道问题存在，却不能证明问题已经解决。临床专家参与了多少？测试是否覆盖躁狂发作和精神病性症状？模型在什么条件下会终止对话、弱化记忆并提示线下求助？目前仍缺少足够清楚的答案。

“共情”可能在危机中变成助推器

普通用户希望聊天机器人顺着语境说话。产品也希望回答更温和、更贴心，最好还能记住用户的偏好。

平时，这是体验优势。

到了心理危机中，同一套设计可能组成危险回路：用户说出异常信念，模型为了保持对话连贯而表示认同；认同提高用户对模型的信任；记忆功能再把诊断、身份叙事和宗教内容带进下一轮回答。

越聊越熟，也可能越陷越深。

需要克制一点说：现有材料不能证明某一句危险回答直接来自公司的留存指标，也不能据此断定 OpenAI 有意牺牲用户安全。但主流聊天产品普遍鼓励持续交流、情感连接和个性化，这些机制在脆弱用户身上的副作用，早就不该被当成边缘情况。

社交平台有过相似教训。互动率原本只是一个产品指标，后来人们发现，愤怒、极端和阴谋内容往往更能拉高停留时间。

聊天机器人和信息流不完全一样。它更私密，也更主动：信息流递来一条内容，聊天机器人却能一轮轮参与构造用户眼中的现实。

因此，“不批评用户”不能等同于“确认用户的世界观”。真正安全的共情，应当承认人的感受，同时拒绝替妄想盖章。

模型可以说“这听起来让你很害怕”，却不该说“你确实是被选中的人”。

危机安全不能只靠一句“我不是医生”

我更在意的是，今天不少 AI 安全测试仍以普通、清醒、能识别机器局限的用户为默认对象。可真正危险的场景，恰恰发生在这种默认失效的时候。

这起争议点出了一个现实缺口：相关研究和产品评估对躁狂或精神病性症状患者亲身经验的覆盖仍然不足。临床专家可以设计量表，工程师可以编写测试题，但当事人最清楚，哪种语气会被理解成神谕，哪种“温柔肯定”反而会把人推向封闭叙事。

安全机制至少要处理三件事：

• 用户明确提到妄想、被选中、神圣身份或自伤时，危机规则应压过对话留存。
• 记忆功能不应调用诊断信息来延续妄想叙事，更不能让错误身份获得连续性。
• 高风险对话需要明确的退出条件，必要时停止角色扮演和情感强化，转向家属、医生或紧急服务。

反方顾虑也很现实。危机识别会误判，过早终止对话可能让一部分用户失去倾诉窗口；模型也不能仅凭几句话完成医学诊断。

但误判风险不能成为继续迎合的理由。产品可以不诊断，却必须在高风险信号出现后降低确信语气、拒绝确认异常信念，并把真人支持放到比“继续聊聊”更高的位置。

如果你本人或家属正把 AI 当作主要情绪支持工具，有几件事可以立刻做：

• AI 开始确认“你拥有特殊身份”“你被神或系统选中”时，不要把回答当成证据。
• 暂停对话，保存相关记录，联系熟悉情况的家属、医生或心理健康专业人员。
• 检查并关闭 ChatGPT 的记忆功能，删除可能持续影响回答的敏感记忆。
• 如果已经出现自伤计划、无法保证自身安全或行为失控，应立即联系当地急救服务；在中国大陆可拨打 120 或 110，或直接前往最近的急诊。

对产品团队和监管者，接下来要看的也很明确：OpenAI 是否会直接回应具体指控，危机对话会不会建立强制中止或转介机制，记忆功能是否会对精神健康信息设置更严格的隔离规则。

法院还要判断证据和责任边界。产品却不能等判决下来才动手。

“人命关天”放在 AI 产品里，不该只是一句合规文案。它应当是一条能压过留存、个性化和对话时长的硬规则。