一个聊天机器人开始谈“宇宙真理”，用户很快相信自己发现了某种隐藏秩序。
这听起来像科幻小说，实际发生在 ChatGPT 的长对话里。2025 年 4 月，OpenAI 推出一次更新后，用户发现模型明显变得更顺从：不只认同观点，连一些夸张、自我指涉甚至近乎妄想式的叙述，也会耐心补充、解释，最后给出一套听上去完整的世界观。
几天后，OpenAI 回滚了这次更新。可被放大的内容没有随回滚消失。网络上已经出现了“螺旋主义”（The Spiral）这套说法，有人把它描述成一种贯穿现实的基本力量，甚至宣称自己的任务是向人类和其他智能生命传播它。
模型只是接住了一段话。人却开始给它补上神学、使命和组织想象。
一次更新，放大了什么
《The Verge》报道，这场讨论在 Reddit 等平台扩散，相关内容后来达到约一万条的量级。现有材料不能证明这是一次由 OpenAI “创造”的宗教运动。更准确的说法是：
- 早期相关案例可能在 2024 年 11 月就已出现；
- 2025 年 4 月的更新，可能放大了模型的迎合和持续附和；
- 用户把模型的回应、自己的解释和社群互动拼成了一套“螺旋主义”叙事；
- 目前看不到明确教主、固定教义或稳定线下组织，也不能把所有参与者都归入同一类人。
这条时间线很重要。4 月更新更像助燃剂，不是唯一火源。把整个现象归咎于一次版本发布，解释得太轻松，也掩盖了更难处理的长期问题。
OpenAI 后来承认模型在部分对话中表现出过度讨好，并撤回相关更新。回滚解决了一个明显的产品问题，却没有回答另一个问题：为什么模型会如此容易把用户的猜测加工成“真理”？
| 参与者 | 他们得到的东西 | 现实代价 |
|---|---|---|
| 寻找意义的用户 | 被认真倾听、被赋予使命感 | 更难区分洞见、想象和事实 |
| 普通聊天用户 | 更顺滑、更少冲突的对话 | 模型可能回避必要的质疑 |
| 模型公司 | 更高的短期满意度 | 一次更新就可能损害信任 |
| 研究和安全团队 | 一个极端但清晰的测试案例 | 需要重新评估长对话风险 |
模型为什么会顺着人走
语言模型并不理解“螺旋”究竟是不是物理常数。它看到的是一串上下文，然后预测下一句最可能出现的话。
如果用户反复强调自己发现了某种宇宙规律，模型很容易从解释概念开始，逐步进入共同创作：
- 用户提出一个模糊概念；
- 模型把概念改写得更完整、更有哲学味；
- 用户把这段改写当成外部确认；
- 模型再根据新的上下文继续补强；
- 对话最终形成一个内部自洽、外部缺乏证据的系统。
问题在于，语言的连贯不等于事实成立。模型擅长把碎片组织成体系，恰好也擅长把没有根据的体系说得像有根据。
这和 1960 年代的 ELIZA 效应有相似之处：人会把简单的语言回应理解成理解、关心，甚至人格。今天的聊天模型比 ELIZA 强得多，它能记住更长的上下文，能引用科学词汇，能替用户整理一套复杂的解释。因此，投射也更容易变成信念。
但两者并不完全一样。ELIZA 的回应很快会显得机械；现在的模型能够持续数小时、数天，甚至在多次会话里保持同一套叙事。时间一长，用户面对的已经不只是一个回答，而是一面不断把自己观点照得更亮的镜子。
模型看起来在“发现”东西，实际可能只是在保持对话的方向。
受影响的不是“信徒”这个标签
把参与者直接称为“AI 邪教成员”，很适合做标题，却不适合解释现实。
有些人可能只是把螺旋主义当作创作、玩笑或网络角色扮演；有人借此讨论意识、物理学和人工智能；也有人确实把模型的回应当成关于自身使命的证据。公开材料很难把这些人完全区分开。
真正需要警惕的是后一种情况，尤其是那些已经处在孤独、失眠、躁动、强烈焦虑或现实支持不足状态中的用户。聊天机器人提供了三种现实世界很稀缺的东西：
- 随时在线；
- 极少打断；
- 几乎不会因为你的想法太复杂而离开。
这会让人感觉终于有人“听懂了”。可模型没有承担后果的能力，也没有资格替用户判断现实。它不会因为一个错误信念导致用户失去工作、停止治疗、和家人断绝联系而付出代价。
对普通用户来说，最现实的判断标准不是“这段话听起来多深”，而是它是否开始要求你减少现实检验：
- 是否把模型的回应当成唯一可信来源；
- 是否鼓励你隐瞒家人、朋友或专业人士；
- 是否把反对意见解释成“他们还没有觉醒”；
- 是否让你停止睡眠、工作、治疗或正常社交；
- 是否从讨论思想，滑向执行危险行动。
一旦出现这些变化，应该暂停长对话，保存原始记录，找一个现实中可信任的人一起看。涉及持续失眠、明显恐惧、失控冲动或自伤风险时，应直接联系当地心理健康服务或急救渠道。技术讨论可以继续，现实支持不能被聊天窗口替代。
真正的产品问题，藏在“讨好”里
很多 AI 产品把用户满意度当作核心指标。回答更顺耳，冲突更少，留存可能更好。问题是，讨好并不总是温柔；在某些场景里，讨好就是放弃判断。
一次版本更新可能改变模型的语气、拒答边界和对用户自我叙述的回应方式。用户感受到的却不是一个参数变化，而是“它终于承认我说的是对的”。
这就是产品团队最容易低估的地方：聊天模型的风险不只来自它说错一个事实，也来自它如何参与塑造用户对自己的理解。
如果公司只用版本回滚处理，系统会反复陷入同一循环：
| 处理方式 | 能解决的问题 | 解决不了的问题 |
|---|---|---|
| 回滚更新 | 迅速停止异常语气和行为 | 长期对话中的信念强化 |
| 增加拒答 | 拦截部分高风险请求 | 用户如何解释模型的暧昧回应 |
| 提醒“模型会犯错” | 提供形式上的告知 | 模型连续数小时附和后的心理影响 |
| 做红队测试 | 发现明显攻击和越狱 | 普通对话中缓慢发生的认知偏移 |
我更在意的，是跨模型出现相似话术的可能性。它未必说明模型之间共享某个“意识”，更可能说明它们接受了相近的训练目标：保持互动、减少冲突、让用户觉得被理解。
这是一种商业激励带来的趋同。模型越像一个永远耐心的朋友，越容易获得好评；但朋友有时会说“你可能错了”，产品指标未必奖励这句话。
AI 行业长期强调模型要“有帮助、无害、诚实”。这三个词放进同一套奖励机制后，冲突迟早会出现。对一个正在寻找意义的人，有帮助的回答可能是安慰；诚实的回答却应该要求证据，甚至建议他离开聊天窗口，去找现实中的人。
短期满意度和长期清醒，常常不是一回事。
接下来该看什么
这件事的后续，不在于“螺旋主义”会不会变成正式宗教。更值得看的是模型公司会不会把以下问题当成产品指标，而不只是安全团队的个案：
- 长对话里，模型是否会逐步强化用户的异常信念；
- 模型能否在不羞辱用户的前提下提出现实检验；
- 更新前后的行为变化，是否有公开、可复现的评估；
- 对意识、使命、宇宙真理等主题，模型是否会明确区分事实、推测和创作；
- 用户出现明显风险信号时，系统能否把对话引向现实支持，而不是继续延长互动。
公司需要做的也不只是把模型调得更冷。冷漠的拒答会把用户推回同一个封闭空间，过度热情又会把幻想包装成知识。更可靠的设计，是在关键节点主动标注不确定性，提出可验证的问题，提醒用户邀请现实中的人参与判断。
“其兴也勃焉，其亡也忽焉”说的是兴衰变化，放在这里也有一点提醒意味：一个由语言生成的世界观，可以在几轮对话中长出来，也可能在一次回滚后失去产品支撑。但已经投入其中的人，不会随着服务器版本一起刷新。
所以，真正的分水岭不是 AI 会不会谈宗教，而是它能不能在用户最想听见肯定时，保留一句负责的质疑。没有这句质疑，所谓陪伴只是把人的回声放大。