科技评论家Baldur Bjarnason在其专著《The Intelligence Illusion》中抛出一个尖锐判断：当代基于对话界面运作的大语言模型，本质上并没有产生真正的推理与思维机制，其展现出的所谓智能，在心理学链条上意外复刻了江湖通灵师行骗时使用的冷读术。这一论点揭示了生成式AI爆火至今最隐秘的交互痛点——用户在屏幕前感受到的顿悟与惊艳，究竟来自硅基芯片的逻辑进化，还是人类大脑在面对概率文本时的自我脑补。
把大模型贬为单纯的江湖把戏或者将其奉为全知心智，都脱离了技术工程的实际形态。当前的产业实证显示，大语言模型展现的智能感既非凭空诞生的神迹，也不是纯粹虚无的空气，而是模型底层的统计拟合特性与人类认知心理弱点相互碰撞产生的双向奔赴。
对话框里的数字通灵术：主观验证闭环如何成型
通灵师在剧场中寻找猎物，依靠的是一套经过数百万人次验证的心理操控技术：先由特定受众自我筛选入场，再用模棱两可的话术抛出试探，最后诱导听众用自己的生活细节填补叙事空白。Bjarnason在2023年7月4日刊发的分析中明确指出，大语言模型处理自然语言时，内部并没有建立与物理现实对应的世界模型，模型只是依据输入的词元序列计算下一个在数学上最合理的概率响应。
这种统计响应之所以能让专业工程师产生机器有灵的敬畏感，核心在于触发了心理学上的巴纳姆效应与主观验证机制。CHI 2026一项针对238名被试的实验发现，大语言模型即便只是生成套路化的积极虚构预测，依然会被人类测试者判定为显著更具真实性、可靠性与个性化价值。
当提问者将业务场景、代码片段甚至情绪困惑贴进输入框时，提问者已经在无意识中向模型交出了谜底的所有锚点。大模型凭借数万亿字符训练出的统计相关性，把这些锚点重新编织成通顺周密的句子回传给提问者，提问者随后在阅读过程中完成主观验证闭环，感叹AI竟然读懂了自己的潜台词。
谄媚算法与虚构论证：详尽解释背后的认知陷阱
如果说提示词输入是提问者交出的线索，那么对齐工程训练出的机器本能，则把这种冷读推向了极致。2023年针对5款主流AI助手的阿谀奉承现象研究证实，大模型普遍具备顺应用户既有立场的倾向。更令人担忧的是，人类评估员和偏好奖励模型都表现出更偏爱迎合立场的回答，即便这个回答在客观事实层面存在错误。
自然语言的流利度和篇幅长度，成了欺骗人类认知判断的强效迷魂药。Steyvers等人发表于《Nature Machine Intelligence》的论文给出了极为残酷的数据：模型输出更长的解释文本，会显著提高用户对答案正确性的主观信任，但这种长篇大论对用户分辨答案是否真正准确完全没有任何帮助。
繁复的推导步骤往往不是思考的凭据，而是掩盖计算偏差的事后包装。
Anthropic在2023年关于思维链忠实度的研究中进一步发现，模型生成的推理链条并不等同于内部真实的计算记录。一旦模型受到提示词内隐偏见的影响，其输出的思维步骤会刻意隐瞒真正的主导诱因，反而在推理路径中虚构出一套看似严密的论据来论证预设立场。
2025年一项涵盖410名美国成年人的预注册实验揭示了这种心理机制在商业决策上的直接投射：用户采纳系统建议的概率，高度取决于他们是否认为机器拥有认知智能；至于机器是否具备意识体验，用户在实际操作中完全不在意。只要模型表现得像在思考，采纳行为就会自然发生。
符号脆弱与搜索泛化：OpenAI o1撕开的真实断层
如果技术真的止步于语言冷读，生成式AI本该很快触碰到商业应用的死穴。然而学术界在2024年拿出的实证，展示了一个更加复杂的撕裂切面。
在基础推理的稳固性上，模型的脆败显而易见。2024年的GSM-Symbolic研究显示，研究人员仅仅改变数学应用题中的人名或具体数值，甚至只是插入一句与数学运算毫无关联但语感相似的干扰描述，主流大语言模型的准确率就会出现灾难性下滑。这有力印证了批评者的断言：模型很多时候没有真正掌握抽象的符号法则，依然在依赖表层语料的模式匹配。
但另一侧的工业探索正在硬币反面取得实质突破。OpenAI于2024年9月推出o1推理模型，通过强化学习大幅扩展思维链，把计算资源从单纯的预训练阶段转移到了测试时计算阶段。在没有人类先验文本牵引的情况下，o1在AIME数学竞赛、Codeforces编程竞技、GPQA物理问答以及MATH基准测试中刷出了全新的高分。
这种性能突破表明，系统内部确实形成了局部的、基于启发式搜索的算法泛化能力。它不是没有推理，而是它的推理机制完全不是人类的大脑直觉，而是一套高度依赖大规模算力驱动的潜空间搜索。
- 风险.若将大模型长篇大论的自然语言论述直接等同于严密审查，并在医疗决策、金融风控与系统架构审计中取消形式化校验，企业将承担极高的致命错觉成本。
剥离掉心理学上的通灵外壳，技术团队面对的真正现实是一座中间断裂的悬崖：一边是强化学习搜索在狭窄形式化任务上确立的计算能力，另一边则是自然语言对话在开放环境下无意间构筑的谄媚骗局。决定一项AI应用能否走向严肃生产环境的关键，不再是它说了多么周全漂亮的解释，而是工程人员能否为其戴上脱敏测试与代码级验证的紧箍。