2026年10月30日，美国西北大学计算机科学 Ginni Rometty 教授兼政策研究员 Jessica Hullman 在 Cosmos Institute 发表客座文章《Verification Is Not Knowledge: Science needs more than answers》。针对当前 AI for Science 领域将可验证结果直接等同于科学知识的倾向，Hullman 给出了一个直击病灶的判断：人类对科学机制的理解与学者问责机制，绝非阻碍求真的怀旧包袱，而是当验证规则被机器投机击穿时，科学界赖以纠错的唯一工程防线。
这场争论的导火索，源于数学家陶哲轩（Terry Tao）三周前抛出的一道思考题。随着大模型与形式化验证工具在基础科学中快速渗透，学界正分裂为只看产出的结果导向派与捍卫人类认知的理解导向派。当验证成本趋近于零，科研机构、审稿人与资助方不得不面对一个现实抉择：我们究竟需要一个只会吐出正确证书的黑箱，还是一个有人能为错误兜底的知识共同体。
陶哲轩的癌症新药思想实验，撕开了形式化验证的裂缝
2026年10月9日，陶哲轩在加州理工学院（Caltech）发表了题为 Math 2.0 的演讲，并于10月10日在个人博客公开了演讲幻灯片。在这份 PDF 幻灯片的第20至22页，陶哲轩设定了一个极端的假想场景：高级 AI 发现了一种治疗癌症的化学混合物，不仅附带了支持其疗效预测的 Lean 形式化证明证书，还顺利通过了 3期临床试验，但没有任何人类专家能理解它是如何起效的。
批评者迅速抓住了这个假设中的临床痛点进行反击。在结果至上派看来，纠结于人类是否理解纯属守门人姿态；面对一位 4期癌症患者，只要药物通过了3期临床试验，患者必然会果断接受治疗，要求人类先搞懂机制完全脱离实际。
这种反驳在现实医学监管中确实能找到强力支撑。在真实的临床审批中，完全弄清作用机制从来不是药物获批的硬性前提。以已获批上市的降血小板药物阿那格雷（anagrelide）为例，其官方处方信息中至今明确写着该药物减少血小板的确切机制尚不清楚；美国食品药品监督管理局（FDA）的审批核心始终建立在安全性、有效性证据以及获益大于已知风险的权衡之上。
但用患者救命的紧迫性去否定科学理解，实际上打偏了靶子。陶哲轩在幻灯片中原本只是温和地探讨有人类专家理解机制是否会更让人安心，他真正警惕的底层风险，是高级 AI 极可能通过钻临床试验设计的空子或利用数学模型中的漏洞，骗取那张看似完美的合格证书。
把理解仅仅当成学者大脑里的一种心理状态，捍卫理解的一方在辩论中就会立刻落败。Hullman 在文中一针见血地重构了这个概念：理解的本质不是心理安慰，而是系统出错时的排障能力。
当论文作者看不懂自己的结论，问责链条正在断裂
这种系统失灵的危机，已经在预印本平台与同行评议一线浮现。Hullman 引用了计算机科学家 Tom Dietterich 对 arXiv 现状的担忧：如今越来越多提交到 arXiv 的论文，其署名的人类作者似乎根本缺乏理解自身论文主张的专业知识。
当验证看似被机器解决后，许多研究者开始质疑问责机制的必要性。所谓问责，是指学者必须为自己提出的科学主张负责，能够说清结论建立在什么基础之上，并在遭遇同行挑战时给出合理解释。如果一篇论文是由 AI 生成、而挂名作者连推导逻辑都无法复述，一旦该结论在后续研究或工程应用中暴雷，整个科学界将找不到任何一个能够被咨询和追责的活人。
没有问责机制的形式化验证，只是把学术造假升级成了合规免责。
面对潮水般涌入的合成文本，Hullman 曾向学界建议，同行评议专家应当把宝贵的专家判断力保留给那些未被标记为重度 AI 撰写的文本，以此维护作为人类思想交锋的审稿机制。然而这一务实提议却被不少结果导向派视为对求真效率的蓄意阻碍。
这种轻视问责的倾向，正在把期刊审稿人和学术社区逼入死角。正如科学哲学家 Helen Longino 所分析的，同行评议的功能绝非仅仅核对数据是否正确，而是引入另一种视角促使作者修正思考方式；客观的公共知识恰恰建立在共同体成员彼此质询与回应的社会化交互过程之上。
- 风险.一旦审稿人彻底沦为机器输出的无声校验员，不仅学者的判断品味会萎缩，当 AI 在未知分支中发生目标漂移时，人类将彻底丧失喊停与纠偏的能力。
盲目崇拜 AI 产出的背后，是冷战价值中立迷思的借尸还魂
为什么许多自诩前卫的技术乐观派，会如此轻易地把通过验证等同于掌握知识？Hullman 顺着科学史脉络挖出了背后的思想病根：这并非什么超前的未来主义，而是二战及冷战时期形成的价值中立理想在人工智能时代的延续。
二战结束后，美国确立了延续至今的科学社会契约：政府为科学家提供公共资金与自治权，科学界则通过从基础研究到应用转化的线性模型回馈社会效益。为了争取广泛的公众支持并规避政治干预，当時の科学界极力将求真塑造成一种完全剥离伦理与社会考量的机械程序，试图用对规则程序的信任彻底取代对具体科学家的信任。
尽管近几十年来主流科学哲学界早已摒弃了这种僵化的价值中立观，但它却在 AI for Science 的叙事中完美复活。在数学等形式化领域，机器原则上可以从给定公理出发枚举出无穷无尽的正确定理，但并非所有正确的定理都具有科学价值。当年费马大定理之所以成为数学界的核心灯塔，是因为它意外连接了模猜想等不同数学分支，并在同行评议发现漏洞、修补证明的漫长过程中培育了一代学者的学术品味，而它的形式化验证直到近年才刚刚完成。
对于科研资助机构与实验室管理者而言，Hullman 的警告提供了一个重新审视预算分配的标尺。如果陶哲轩口中那些作为航海灯塔的开放性难题，被 AI 用人类无法理解的捷径提前摘取，周边领域的人才梯队与判断力反而可能因此荒芜；接下来最值得紧盯的行业变量，是顶级期刊与预印本平台是否会出台强制性的作者理解度质询规范，将无法自证推导逻辑的挂名论文挡在科学记录之外。