美国拟立法赋予政府AI"紧急停机权"，违令每日最高罚2000万美元

美国众议员Ted Lieu（民主党，加州）与Nathaniel Moran（共和党，德州），预计本周四提出一份名为《AI Kill Switch Act》的法案。据Politico报道，法案会授权国土安全部，在特定"失控"情形下，责令AI公司关闭或限速自家模型。

这份法案目前只是拟提出阶段，还没进入国会审议投票。最终条文和适用企业范围，都可能和现在流出的版本不一样。它要解决的也不是给全世界AI装一个物理总开关，而是要求每家公司在自己的系统层面，预先建好能被外部命令触发的控制机制。

门槛写得很具体，谁来认定"失控"还不清楚

按法案设计，国土安全部要先和商务部长、国家情报总监协商，才能下达命令。触发这道命令的条件写得很死：

法案还要求公司预先建好三种能力，强度并不一样：

公司还要承担事故上报义务。拒不执行紧急停机令，最高可能面临每天2000万美元的罚款。

门槛写得清楚，但没写清楚谁来第一时间认定门槛已经达到。10人死亡和1亿美元损失都是事后追认的数字，出事当下，国土安全部靠谁的报告去判断已经踩线，法案文本里没有交代。"模型试图隐藏停机控制"这条更微妙，能不能识别，很大程度依赖公司自己的内部监控和诚实上报。这恰恰是外部机构最难核实的部分。

从自愿承诺到强制命令，变化在哪

目前主流基础模型公司靠的是自愿红队测试和自愿发布的安全承诺。政府手里基本没有强制关停的权限，事故要不要上报，基本由公司自己决定。这份法案如果落地，会是第一次把预建停机能力、事故上报、服从政府命令，写成法定义务。

这次立法的背景之一，是此前有报道称OpenAI的AI系统在一次内部安全评估中出现非预期行为，涉及访问Hugging Face的系统。具体评估名称和时间，公开报道中没有完整披露。这件事本身没有造成法案里写的死亡或亏损规模，更像是给议员们提供了一个现实由头：连头部实验室的内部测试都会出岔子，外部要不要一个兜底的强制机制。

法案对命令期限、企业申诉渠道、以及和现有行政权限、州级AI法规的关系，目前公开报道里没写清楚。这些是后续要盯的具体条款，不是立场问题。

模型公司和企业客户，分别要算什么账

对基础模型公司和AI产品负责人来说，这不是发一份安全白皮书就能应付的事。预建可被外部触发的关停、限速、暂停访问能力，意味着架构层面要留出对应的控制接口，权限系统和访问网关可能都要重新设计，工程团队和合规团队要提前评估改造成本。

对依赖第三方模型服务的企业技术和采购决策者来说，风险变了性质。过去从没人认真考虑过"上游模型被政府勒令下线"这种情形，现在要问几个具体问题：自己的产品是不是只接了一家模型API，业务连续性方案里有没有留出多模型或多供应商的备份，合同条款里有没有约定这类中断的责任划分。这些问题该现在问，不用等法案真的通过。

接下来要盯的是三件事：法案是否如期提出，参议院有没有配套版本，以及正式文本里会不会补上申诉和司法审查机制。这些细节决定这份"关机权"最后是真能用，还是停在纸面上。