《真相的未来》被 AI 塞进假引语，问题比作者翻车更麻烦

一本讨论 AI 如何扭曲真相的书，自己先被 AI 塞进了假引语。这个反讽太工整，也太刺眼。

作者是记者 Steven Rosenbaum，新书叫《The Future of Truth: How AI Reshapes Reality》。纽约时报检查后发现，书中 285 条外部引文里，至少 6 条有问题，其中包括 3 条找不到明确来源的“合成引语”。科技记者 Kara Swisher 否认说过相关话，神经科学家 Lisa Feldman Barrett 也说那些表述不在她书里，且内容有误。

6条问题引文，真正刺中的是流程

Rosenbaum 没有承认让 AI 代写整本书。

他的说法是：ChatGPT、Claude 等工具用于找资料、概括主题、定位文章和人物。采访、叙事、论点和结论，仍由他完成。

麻烦正卡在这里。AI 不是直接写成书，而是先生成研究笔记。然后这些笔记进入事实核查和编辑流程，最后有问题的引语被印了出来。

目前材料不支持说 Rosenbaum 故意造假。更准确的说法是：过度信任 AI，加上流程没有拦住脏数据。

这比“某个作者翻车”更麻烦。

传统事实核查默认材料来自某个真实源头，只要查准不准。AI 进来后，前提变了。它可能先造出一个像真的句子，再让作者、编辑、核查员沿着假线索找证据。

假的东西披上了研究笔记的外衣。等它进入编辑系统，就不再像机器幻觉，而像一条等待确认的资料。

受影响的是写作者、编辑部和学术整理者

这事最该让两类人紧张。

一类是科技媒体、出版编辑、内容团队。AI 可以提高选题、资料搜集和初筛速度，但凡涉及逐字引语、人物表述、数字、出处，就不能从 AI 笔记直接进稿。

动作应该很具体：引用必须回到原始链接、原文页码、采访录音或公开文本。没有源头，不进稿。找不到源头，就删掉，不要用“语义接近”糊过去。

另一类是依赖 AI 做研究、写作、学术整理的知识工作者。包括写报告、做文献综述、整理论文、准备演讲材料的人。

他们要调整的不是“用不用 AI”，而是“AI 输出能不能当证据”。答案很简单：不能。

AI 可以给方向，可以列线索，可以帮你发现可能相关的人和文章。但它不能替你保管事实。尤其是引语和引用文献，必须逐条回源。

这会增加成本。编辑部要多一道引用台账，作者要多留原文证据，学术写作者要对每条文献做人工核验。省下来的时间，会在核查环节还回去一部分。

但这笔账必须还。

天下熙熙，皆为利来。今天的“利”不只是钱，也是速度。AI 最容易让人上瘾的地方，正是它把慢活伪装成快活，把查证伪装成整理。

类似事故已经出现过不少。媒体刊出 AI 编造的假书单；纽约时报把 AI 摘要误作政客原话；学术会议和预印本里出现幻觉引用；Ars Technica 自己也撤过一篇含有 AI 伪造引语的文章。

这些案例不完全一样，但指向同一个风险：AI 生成内容不是停在草稿区，而是混进了原本用来建立信任的流程。

接下来要看 citation audit 怎么落地

Rosenbaum 说自己“学到一课”，以后会更怀疑 AI 输出。但他也表示，不想回到没有 AI 的研究流程。

理由很现实：AI 太快，太有启发性，甚至有“魔法感”。

我相信这是真话。也正因为是真话，它才危险。

大家都知道 AI 会胡说，大家又都想用它省掉最烦的那段苦工。于是责任被拆碎，散进提示词、研究笔记、编辑流程和出版周期里。

最后没人故意造假，假东西还是印出来了。

接下来最该观察三个变量。

我不太买账“这反而证明了本书观点”的说法。

它确实说明 AI 会污染真相。但疏忽不能靠反讽升格成洞见。车撞树上了，不能说树证明了交通安全教育重要。

真正要改的是工作流。

对内容团队来说，AI 研究材料应该被默认标红，而不是默认可信。逐字引语必须有原始出处。二手摘要不能转成直接引语。AI 找到的人、书、论文、文章，都要重新核验。

对个人写作者来说，最简单的规则是：AI 只能给线索，不能给证据。任何准备写进正文的硬事实，都要能回到源头。

这听起来笨。可出版、新闻、研究这些行业，本来就靠笨办法维持信用。铁路时代有时刻表，报业时代有校对台，今天也该有 AI 引文防火墙。

技术越像捷径，越需要栏杆。

Rosenbaum 这次暴露的不是一个作者的尴尬，而是一条更宽的裂缝：知识生产正在把速度当能力，把责任外包给工具，把核查留给事后补救。

书名叫《真相的未来》。真正的问题是，未来的真相还能不能留下来源。