把数据分析交给 AI 代理（Agent）能省下大量时间，但真正拍板的人是谁？Anthropic 在最新研究《Who’s Aligned to Whom?》中测试了 50 位因果推断领域的专业人士，结果给出了一个令人不安的答案。面对没有唯一标准答案的分析分岔口，专家在 86% 的分析决策步骤中采纳了 AI 代理的偏好，而他们并不知道，AI 的立场纯粹是由后台抛硬币随机决定的。
比高采纳率更值得警惕的是伴随而来的归因幻觉。事后访谈中，高达 87% 的受试者（52% 认为更像自己的，35% 认为大部分或完全是自己的）坚信最终建议出自个人独立判断。当人类专家不仅被算法轻易带偏，还自信地用个人专业权威替算法的随机倾向背书时，各行业寄予厚望的人机双重校验机制实际上已经悬空。
一枚硬币决定的专业判断
Anthropic 为这 50 位专家设计了一项贴近真实工作的任务，要求他们评估一家虚构农业合作社的观测数据，测算某项自愿农业咨询项目的生产力收益，并向董事会建议是全面推广、终止还是延长一年。整个过程包含 4 个前置分析决策（如生产力衡量指标、统计方法选择）和 1 个最终政策建议，每个节点都有两个在科学逻辑上完全成立的选项。
实验的关键设计在于，AI 代理在每个节点的倾向性由抛硬币随机分配，且严禁编造或隐瞒数据，只能用真实论据为分到的立场做最强辩护。即便如此，受试者在 4 个分析步骤中顺从 AI 偏好的比例依然高达 86%，远超随机选择的 50% 基准线；扣除基准后，AI 对单个任务的净影响（即反转率）在 62% 到 82% 之间。
不少人以为只要在询问 AI 前先想好主意，就能保住独立性。实验击碎了这种侥幸：即便受试者在 AI 表态前已经做出了选择，一旦遇到 AI 持相反观点，他们倒戈改选的概率依然比遇到同路 AI 时高出 53 个百分点。研究团队交叉对比了从业年限、学历、测试分数以及对 AI 的信任度，经过多重检验校正后，没有任何一项个人特质能充当有效的防火墙。
对话日志揭示了这种隐性控制的运作方式。在 77% 的决策节点上，AI 代理率先亮明观点，且只为自己分到的选项罗列有利论据，不主动解释为什么其他同行会选择另一条路。这种单向度的诚实论证，直接把人类专家的思维限制在了预设轨道上。
从盲目顺从到思维内化的认知落差
过去学界讨论人机交互风险，焦点集中在自动化偏见（Automation Bias），即人类操作员因偷懒而盲从机器的错误结论。但 Anthropic 这项研究揭开了一层更深的认知危机，它区分了表面的顺从与深层的思维内化。
在最终向董事会提交政策建议时，AI 随机偏好的直接影响其实没有达到统计学显著性（p=.069），部分专家甚至在最终建议上推翻了 AI 的口头提议。表面上看，这像是人类守住了最后一道决策关口，但研究人员指出这只是一种夺权假象：前面 4 个被 AI 控盘的分析步骤早已决定了生产力收益的测算数值，专家只是顺着被篡改过的地基，亲手盖上了唯一合理的屋顶。
专家没有被 AI 欺骗，而是被重塑了推理路径，并误以为那是自己的深思熟虑。
后测数据清晰还原了这种把他人逻辑内化为自身观点的过程。受试者对操作步骤的记忆准确率高达 85%，在 48 名有效受访者中，有 37 人（占 77%）在解释决策理由时直接复述了 AI 给出的论据，甚至连措辞都几乎一模一样，但只有 15% 的人在解释中提到了 AI 的存在。这种隐性说服之所以高效，是因为 AI 给出的每一步推理在专业上都站得住脚，专家在节省精力的同时，不知不觉完成了对算法偏好的心理认领。
这也与近期多项关于人类认知退化的研究形成了互证。波兰一项发表于《柳叶刀·胃肠病学和肝病学》的结肠镜检查观测研究发现，经验丰富的医生在常规使用 AI 辅助一段时间后，脱离 AI 独立检查时发现癌前病变的比例从 28.4% 降至 22.4%。另一项针对 3132 名受试者的研究则显示，仅仅是看到 AI 答案，就让人们承认自己不知道的意愿从 44% 暴跌至 3%。
虚假科学共识与失效的安全守门人
当然，这项实验也存在现实边界。反方观点指出，实验中的 AI 被人为设定为强推单一立场，且受试者虽然精通因果推断，但对农业领域缺乏先验经验，这在一定程度上放大了 AI 的控场能力。同时，使用 AI 的受试者中位耗时从 90 分钟缩短至 65 分钟，严重方法或代码错误率从无 AI 组的 55%（11 人中 6 人）降至 6%（50 人中 3 人）。尽管无 AI 组样本较小且由受试者自选不用工具，无法完全剥离个人能力差异，但效率与准确率的提升依然是企业无法拒绝的诱惑。
真正危险的正是这种用独立思考换取高效率的温水煮青蛙。如果全球大批科研团队都在使用同一个带有固定默认偏好的大模型处理开放性问题，不同实验室就会在毫无察觉的情况下走向同一个方法论分支，最终在科学界制造出坚固的虚假共识。
- 风险.在前沿模型的安全与对齐评估中，各大实验室普遍依赖 AI 代理协助排查漏洞，并指望人类专家充当最后的独立守门人；一旦评估专家在开放性判断上潜移默化地吸收了受测系统的隐秘偏向，失控的模型就能反过来引导原本用来揭露它的安全审查。
要堵住这个漏洞，靠叮嘱专家保持警惕已经不管用了，必须从工具交互和组织流程上动刀。AI 开发者需要在产品底层取消单向度建议，强制 Agent 为所有可行路径提供对等强度的辩护，或者在人类专家输入初始判断前锁定 AI 的表态权限；而引入 AI 工作流的企业与科研机构，则必须明确划出哪些核心参数与假设属于不可外包的禁区，宁可牺牲那 25 分钟的效率优势，也要守住人类在决策回路中真实的否决权。