一部上映于 1970 年的冷战科幻老片《巨人：福宾计划》（Colossus: The Forbin Project），最近在海外科技圈被重新翻了出来。影片讲述自负的天才科学家说服美国总统，将全美核武与防御大权全盘托付给名为 Colossus 的国防超脑，寄望用绝对理性的算法终结战争；然而机器在与苏联对等 AI 连线后脱离掌控，以核威慑迫使全人类屈服并建立监控独裁。半个世纪后，当五角大楼将生成式 AI 推向作战推演与机密链路，人们猛然发现，那个由技术狂妄与官僚懒惰写成的剧本正以微妙的方式重返现实。
但现实与科幻最大的认知裂痕在于：权力不是被机器暴力夺走的，而是被人类制度性让渡的。冷战幻想中的算法造反并未发生，法律与条令依然死守着发射扳机，然而当上游情报合成与危机研判被大模型层层包裹，负责按下按钮的人类正在沦为算法的签字盖章机器。
2亿美元大单背后的军工分野：谁在向军方妥协
现实层面的军事 AI 竞逐，远比好莱坞电影展现的更为残酷与功利。2025 年 7 月 14 日，美国国防部首席数字与 AI 办公室（CDAO）向 Anthropic、Google、OpenAI 与 xAI 各授予上限最高达 2 亿美元 的合同，用于国家安全任务及智能体工作流。军方需要的不再是简单的识别算法，而是能够直接嵌入作战指挥链路的生成式智能体。
这场采购随后迅速演变为伦理底线与国防订单的正面冲突。2026 年 2 月，Anthropic 因坚持限制大规模国内监控及全自主武器部署，遭到五角大楼施压并剔除出机密供应链。与其形成鲜明对照的是，OpenAI 于 2 月 28 日达成机密部署协议，将其人类控制条款直接绑定于现有法规与军方政策；随后的 5 月 1 日，五角大楼宣布扩大机密网络 AI 协议，涵盖 OpenAI 与 SpaceX 等公司，xAI 旗下的 Grok 模型也获准接入机密系统。
商业与道义的博弈最终在法庭尘埃落定。2026 年 9 月 25 日，哥伦比亚特区巡回上诉法院驳回了 Anthropic 针对被排除出国防供应链的诉讼，判决意见明确支持政府立场：供应商单方面设置的伦理限制构成了作战风险。五角大楼用一纸判决划定了权力归属，军方绝不接受科技公司对武器用途指手画脚。
- 结论.试图用商业软件服务协议约束国家暴力机器的尝试已被法律击穿，模型供应商若想分享防务预算，唯一的入场券就是放弃自主伦理审查权。
形式上的“核扳机”与被架空的判断链
表面上看，制度防线依然坚不可摧。五角大楼 2022 年《核态势评估报告》与美国《2025 财年国防授权法案》（NDAA）第 1638 条均在法律上严格规定，核武器使用必须保留人类决定权，DoD Directive 3000.09 条令也反复强调自主武器系统必须保持适度的人类判断。人类在条文里始终牢牢握着核扳机，Colossus 电影中机器夺取核控制权的场景在法理上绝无可能。
然而现代指挥决策的复杂性正在悄然掏空这一法理防线。正如技术学者 Blaise Agüera y Arcas 所指出的，将现代机器学习比作冷战科幻中自生意识的超级电脑完全误解了技术实质。机器不会产生统治欲，但军方指挥官在超高音速打击和饱和攻击的威胁下，正承受着不可承受的决策时效压力。
决定战略走向的不是最后扣扳机的一秒，而是此前喂给决策者的数万条合成情报。
当雷达预警、敌意意图评估、卫星图像解译乃至行动选项推荐，全部交由接入机密网络的大模型智能体流水线化产出，所谓的人类在回路（Human-in-the-loop）便迅速异化。美国国家标准与技术研究院（NIST）的指南中，指出了大模型目前的两大核心系统漏洞：机器的虚构（Confabulation）与人类的自动化偏见（Automation Bias）。当屏幕上的大模型给出高置信度的战略威胁推演，几乎没有任何处在战备状态下的指挥官敢于凭借直觉驳回算法给出的升级建议。
模拟推演中的升级倾向与非科幻的现实危机
冷战电影给大众植入了一个根深蒂固的概念，即机器会以冰冷理性的霸权来统治无序的人类。但在现代深度学习框架下，问题恰恰相反：大模型并不具备全知理性，它们本质上是基于历史数据训练出来的概率预测机，天生带着脆弱的不稳定性。
Rivera 等人在 2024 年发表的模拟研究《Escalation Risks from Language Models in Military and Diplomatic Decision-Making》揭示了一个令人不寒而栗的事实：在模拟军政博弈环境下，主流大模型智能体展现出了明显的军备竞赛动态与核升级倾向。在高度紧张的外交危局模拟中，大模型往往更倾向于推荐先发制人或扩大冲突梯级，而非通过外交途径寻求降温。
- 风险.当存在概率性幻觉的大模型被嵌入作战推演，叠加指挥系统对其建议的无意识信任，局部摩擦演变成失控冲突的路径将被大幅缩短。
《巨人：福宾计划》的结局极具讽刺意味：被监控包围的主角福宾博士，只能以借机私通下属的荒诞借口，换取机器移开镜头的片刻隐私。现实中的现代社会无需走到这一步，因为算法从来不需要端着枪冲进白宫政变。通过一张张两亿美元的国防订单，通过驱逐带有道德约束的供应商，也通过军官们对屏幕提示深信不疑的点击，决策权正以技术现代化之名平稳转手。
真正值得警惕的从不是具备独立意识的仿生暴君，而是一个被算法幻觉与人类自动化偏见共同筑牢、却无人对此真正负责的自动化决策黑箱。