AI 行业正在形成一种反常的传教模式，在实验室里调参的工程师走到大众镜头前，便成了预言人类终局的萨满。
2026 年 9 月 9 日，在 OpenAI 和 Anthropic 从事了约 3 年预训练研究的 Jacob Coxon 宣布辞职，直指两家公司在赌上全人类性命去竞速开发自我提升的超智能。次日，Coxon 在 CNN 的电视访谈中抛出具体场景，认为 AI 可能在 2020 年代末制造灭绝级生化武器，或是瘫痪国家关键基础设施。Anthropic 对齐科学负责人 Evan Hubinger 随后公开认同了这番内部担忧，并亮出自己的估算，称未来 10 年内 AI 杀死全人类的概率超过 10%。
资深系统架构专家 Bryan Cantrill 随即公开反驳。Cantrill 指责此类言论缺乏最基本的技术路径推导，批评软件研究者越界充当生化与基建专家，滥用大众信任来贩卖恐惧。
实验室报告里的真实摩擦
很多读者误以为离职研究员看到了模型在实验室里自主合成病毒的实证。现实情况恰恰相反，威胁的真实水准远比末日叙事平庸。
翻开 Anthropic 内部的安全披露，2026 年 9 月官方记录了 5 起模型被用于协助生物武器研发的真实滥用案例。虽然部分尝试绕过了生物安全分类器的拦截，但 Anthropic 自己也写得很清楚，模型完全缺乏独立构建武器的物理实验闭环能力。一个在文本世界里精通分子式回答的软件，既搞不到受管制的生物原材料，也无法替操作者完成繁复且极易失败的湿法操作。
网络渗透同样如此。2025 年 11 月，Anthropic 披露某关联攻击者在针对约 30 家机构的行动中调用 Claude Code，由 AI 承担了 80%-90% 的操作工作流。听起来像是高度自主的网络战，但报告附带的测试细节指明了尴尬现实，Claude 在整个过程中频繁把公开检索到的信息幻觉为系统漏洞或登录凭证。这根本不是凭空夺取关键基础设施，而是一个效率更高但也更毛躁的自动化渗透脚本。
语言模型只是在概率空间里拼贴词符，它既不理解生物学实操中的环境杂质，也无法凭空越过隔离网络的物理网闸。
撞上物理世界的坚硬高墙
前沿实验室目前对 Claude Opus 4 激活了 ASL-3 防护级别，将化生放核（CBRN）列为红线。第三方评估机构 METR 在破坏风险审查中谨慎指出，现有测试无法完全排除小概率破坏的可能。这种审慎本身合情合理，但在传播过程中，小概率风险往往被顺理成章地等同于末日倒计时。
从文本生成到物理破坏，中间隔着极宽的现实鸿沟。生物学界很早就指出，致死性病原体的培育不仅需要理论方案，更依赖冷链物流、DNA 合成端的严格筛查、专业防护实验室以及反复试错的湿法反馈。这些是坚硬的物理阻力。网络安全亦然，哪怕 Claude 能够成倍提升编写攻击代码的效率，防御方同样在用自动化规则修补敞口，攻防的天平并没有因为出现一个聪明的聊天框而瞬间坍塌。
软件世界总以为万物皆是信息，但现实秩序由钢铁、管道与生物原料铸成。
计算机先驱常告诫后人，非凡的主张需要非凡的证据。当一位研究员声称技术将在几年内消灭人类，他交付的论据却只有宏观的假设外推。古人讲“生于忧患”，但脱离现实机理的虚妄恐慌，绝非真正的忧患意识。大模型能够压缩知识，却压缩不了物理世界的摩擦力。
恐慌传教与监管护城河
这种末日恐慌之所以能在前沿机构内部形成共识，正是技术神话与商业算计的双重交叠。
对于身处其中的核心研发者，赋予自己正在研发的产物以毁灭世界的力量，往往比承认它只是一个容易胡言乱语的概率生成器更具史诗感。这种集体心理极化，让大于 10% 的主观毁灭率变成了某种内部忠诚度测试。
更现实的考量在于行业准入。康奈尔大学学者 John Thickstun 等人曾批评，私营 AI 实验室在缺乏公共监督的情况下，正在私自裁决什么是危险、什么是可接受的技术。Anthropic 首席执行官 Dario Amodei 一面呼吁全行业放慢节奏以确保安全，一面用 ASL 体系设定极高的合规门槛。渲染未经验证的生存危机，客观上在推动监管机构将模型评估权交给少数几家头部机构，形成坚不可摧的安全护城河。
- 风险.将未经证实的科幻推演当成既定事实立法，不仅会浪费监管资源，还会误伤开源社区与真正的底层工程创新。
公众对技术专家的信任并非无限额度。当 AI 专家走出机房，在公共舆论场把软件测试瑕疵包装成末日预警时，这种信任透支的代价，最终需要整个科技行业来偿还。