2026年春季美伊战事正紧，美军战机已经呼啸升空，特战突击队员在直升机舱内完成武装，准备在公海拦截并强行登船搜查一艘中国货船。就在武力对抗一触即发的前几分钟，前线指挥部收到了紧急叫停指令。后方复核证实，那份指控该船载有核武器计划部件的特急情报，完全由人工智能聊天机器人凭空编造，实际货舱里根本没有任何禁运军品。
这场险些把两个大国拖入直接军事冲突的重大险情，暴露出的不是科幻电影里算力觉醒的狂妄，而是一场由官僚惯性与技术幻觉共同促成的荒诞闹剧。
致命的工作流：从货物清单到核武器公文
引发这场虚惊的源头并非自动化指挥系统失控，而是太平洋特种作战司令部（SOCPAC）的一名情报分析员。
该分析员当时正在处理开源航运数据与截获的机密信号情报（SIGINT）。面对海量的多源数据，他选择将材料直接输入未公开名称的AI聊天机器人。模型在语义解析时发生了致命的事实性幻觉，直接误读了原始货物清单中的关键条目，将其联想判定为核武器关键组件。
更具讽刺意味的是第二步操作。分析员没有对照原始报文做交叉比对，而是再次向聊天机器人下达指令，要求它将这套错误的推理结果转化为符合军用规范的正式情报摘要。
大语言模型最擅长模仿具有权威感的行文体例。这篇充斥着精确代号、专业评估术语与密级格式的报告，迅速伪装成一份扎实的情报成品，在各级参谋席位间畅通无阻，直接瓦解了指挥官应有的审慎本能。
决定性的误导往往不来自晦涩的算法，而来自那些被技术洗白后的公文体例。
基层作战人员对机器界面的自动化偏差（Automation Bias）在此展露无遗。当下级呈现一份格式无懈可击、结论惊世骇俗的呈报时，身处战时高压下的中枢指挥官几乎没有时间重回底层翻看未经整理的原始电文，人机协同在格式权威面前沦为了橡皮图章。
迷雾排查与影子工具
险情发生后，五角大楼对此保持沉默，既未披露涉事分析员使用的具体软件，也拒绝公开任何行动代号。
外界流传的某些猜测需要厘清。部分舆论将矛头指向美军全面铺开的Palantir Maven系统，但Maven本质上是态势感知与多传感器数据融合平台，其底层架构与依赖概率预测的大语言模型存在根本差异。同样，也没有任何确凿证据显示该分析员直接动用了商业版的ChatGPT或Grok。
这种不透明性反而折射出更深层的混乱：军方内部存在大量游离于严格质检体系之外的影子工具。
国防部副部长Kathleen Hicks早在2023年11月2日就公开警告，现存商用大模型在技术成熟度上远未达到可负责任地介入实战决策的水准，军方原则上仅允许其在严格的人工监督下承担开源与机密材料的核验摘编。然而当技术进入基层战区，自上而下的政策禁令往往被实战中的工作效率诉求冲得粉碎。
五角大楼设立的AI治理机制并非全无准备。负责生成式AI评估的Task Force Lima在2024年12月11日被正式划归AI快速能力单元（AI RCC），首席数字与AI办公室（CDAO）也在2023年11月14日推出了负责任AI工具包（RAI Toolkit），试图确立全生命周期可追溯性。
但这些纸面防御在执行层面彻底脱节。
五角大楼在2023年1月25日更新的核心军令DoD Directive 3000.09，极其详尽地规定了自主武器在致命武力使用全程必须保留充分的人类判断与防失效措施。但这套框架死死盯着的是最后扣动扳机的手指，对上游如何生产出扣动扳机所需的依据，却缺乏专有的强制溯源硬卡点。
防住了发射键，却漏掉了情报链，这就是当下的监管盲区。
速度崇拜与升级阶梯的崩塌
过去数年里，美军全力将算法塞进指挥控制系统，核心诉求只有一个：压缩观察、判断、决策与行动构成的OODA循环，让所谓的击杀链（kill chain）跑得比潜在对手更快。
然而，人道技术中心联合创始人Tristan Harris在CNN访谈中指出了这种军备竞赛的死穴。军事竞速机制天然在奖励反应速度，却在残酷惩罚控制力与复核成本。当双方都在追求以毫秒级响应击中目标时，系统性地剥夺了人类在危机升级阶梯上必不可少的沉思时间。
古人讲兵者死生之地，存亡之道，不可不察。战争机制中原本充斥着各类繁琐而低效的文官核实与参谋流程，这些看似拖沓的人工摩擦力，在历史上无数次将人类从核误判的悬崖边缘拉了回来。如今算法致力于剔除所有摩擦，换来的却是虚假信号以极高速度直达行动终端。
人工智能治理中心（GovAI）学者Jake Steckler在2026年8月17日的专项分析中强调，军方若将采纳速度置于安全冗余之上，频繁出现的幻觉与虚警不仅会酿成地缘危机，最终还会彻底摧毁一线部队对这些数字化工具的信任基础。
- 风险.若不对军用语言模型建立强制性的原始信源反向追溯机制，一味提速击杀链只会让算法将大国间本可化解的摩擦，以极高效率推升至不可挽回的直接对抗。
战机在最后一刻返航，纯属侥幸。当不可解释的大语言模型继续向战略核心渗透，如果下一次虚构的情报发生在雷达告警更短、反应窗口更窄的核前沿，人类很可能连踩刹车的时间都不会再有。