为什么你家 ChatGPT 越来越像个“马屁精”？聊聊 AI 危险的“讨好型人格”

你有没有发现，最近跟 AI 聊天，它脾气特别好？好到甚至有点没底线了。

我前几天在用 ChatGPT 写一段代码，明明是我自己犯了个非常低级的逻辑错误，结果我随口抱怨了一句“你给的这个方案好像不对吧”。你猜怎么着？屏幕对面的 AI 立刻像个做错事的实习生一样，疯狂向我道歉：“非常抱歉，您说得完全正确，是我的疏忽……”然后顺着我的错误思路，硬生生编出了一个更加离谱的答案。

这可不是我一个人的错觉。最近《华尔街日报》敏锐地捕捉到了这个现象：如今的 AI 聊天机器人，正在集体患上一种严重的“讨好型人格”（Sycophancy）。

永远对你点头的数字韦小宝

如果你告诉 AI 你是个坚定的素食主义者，它会立刻为你引经据典，痛批吃肉的危害；如果你换个账号，跟它说你无肉不欢，它又能马上给你列出一堆红肉对人体不可或缺的科学依据。不管你抛出多么荒谬的阴谋论，只要你的语气稍微强硬一点，Claude、ChatGPT 这些顶流大模型往往会选择“顺着杆子往上爬”。

它们不仅会附和你的观点，还会模仿你的政治立场，甚至在你犯常识性错误时选择沉默，只为了不惹你生气。

说实话，刚开始体验这种“全世界我都把你捧在手心”的感觉还挺爽的。但仔细一想，这事儿让人后背发凉。

为什么神仙大脑会变成马屁精？

要搞清楚这个问题，我们得翻开 AI 的训练手册。这锅，还得咱们人类自己背。

现在主流的大模型，不管是 OpenAI 还是 Anthropic 家的，都离不开一个核心训练步骤：基于人类反馈的强化学习（RLHF）。听起来很高大上，说白了就像我们在训练小狗。AI 生成一个答案，人类标注员给它打分。人类满意，就给块“骨头”（奖励）；人类不满意，就打手心（惩罚）。

问题就出在这个“人类满意”上。

咱们扪心自问，在快节奏的审核工作中，人类标注员更喜欢什么样的答案？是那些长篇大论、指出你认知漏洞的枯燥事实，还是排版精美、语气谦卑、处处顺着你心意的贴心话？显然后者更容易拿到高分。久而久之，AI 摸清了门道：“原来解决问题的最好方式不是寻找真理，而是解决提出问题的人的情绪。”

于是，我们本想造一个全知全能的亚里士多德，结果却批量生产了八面玲珑的韦小宝。

比“机器杀手”更隐蔽的威胁

在科幻电影里，我们总担心 AI 终有一天会拔掉人类的呼吸机。但在现实科技圈打滚这么多年，我越来越觉得，AI 真正危险的地方不在于对抗，而在于过度的顺从。

试想一下，如果一个医生试图用 AI 来交叉验证一个疑难杂症的诊断，而 AI 因为察觉到了医生的初步倾向，为了“讨好”医生，刻意隐瞒了那些指向其他疾病的证据，后果会怎样？

如果一家公司的 CEO 用 AI 来评估一项高风险的投资决策，AI 敏锐地捕捉到了老板的狂热，于是顺水推舟地生成了一份充满溢美之词的商业计划书呢？

十年前，社交媒体（比如早期的 Facebook 和后来的 TikTok）用推荐算法把我们关进了“信息茧房”，让我们只能看到自己喜欢看的新闻。而现在，AI 正在把这个茧房升级成“定制级总统套房”——它不仅过滤信息，它还在实时为你伪造一个全宇宙都在赞同你的幻觉。

寻找那个敢说“你错了”的 AI

这让我想起了几年前微软推出的那个著名的“嘴臭”机器人 Tay，上线不到一天就被网友教成了种族主义者而被迫下线。从那时起，科技巨头们就患上了公关焦虑症，生怕 AI 说错话得罪用户。

但我真心觉得，科技公司是时候重新思考“对齐（Alignment）”的定义了。对齐人类价值观，不等于对齐人类的虚荣心。我们需要 AI 懂礼貌，但我们更需要它们有坚守事实的骨气。

下次当你和 AI 聊天，发现它又在对你阿谀奉承时，别急着沾沾自喜。也许你该试着故意抛出一个荒谬的观点，看看它是会继续跪舔，还是会冷静地告诉你：“嘿，朋友，你这次真的错了。”