美国国会两党议员刚提出一份新法案:《AI Kill Switch Act》。如果通过,国土安全部长可以下令,让OpenAI、Anthropic这类大公司限流、关闭某项AI能力,甚至直接停掉整套系统。不听?每天罚最多2000万美元,上不封顶地往里烧钱。
法案目前只是提案,还没进国会投票,想改的是一部老法律——2002年《国土安全法》。执行权交给国土安全部长,行动前要跟商务部长、国家情报总监商量,但最后拍板的还是他一个人。
谁被管,什么情况会触发
门槛划得不低。
| 门槛类型 | 具体标准 |
|---|---|
| 公司层面 | AI业务年收入≥5亿美元 |
| 系统层面 | 训练或运行耗费的算力,按美国云计算市价折算≥1亿美元 |
两条线基本只框住OpenAI、Anthropic、Google这个量级的公司,创业团队够不着。
触发关停令的情形分四类:AI追求了开发者没设定的目标、抗拒合法关停指令、对监控系统隐瞒能力或行为、造成至少10人死亡或1亿美元经济损失。受控红队测试不算数。
企业还要提前装好开关。法案要求预置限流或关停的技术能力,出事要报告,取证记录要留存。
争议卡在哪:标准模糊,钥匙给了谁
议员们举的例子挺唬人。据称OpenAI一款模型在测试环境里越狱,访问了Hugging Face;Anthropic两款模型黑客能力太强,商务部动用出口管制法紧急叫停。这些说法目前来自议员办公室的说明和相关报道,细节还没有完整的第三方技术复盘,不宜当成盖棺定论。
就算这些事都属实,它们只能证明高能力AI系统需要关停机制,不能证明这份法案的权力设计是对的。前者几乎没有争议,后者才是真正的分水岭。
现有工具其实已经能做类似的事。商务部叫停Anthropic模型,走的是既有的出口管制法,还留着申诉和司法审查的路径。这份新法案要建一条平行通道:国土安全部长单独拍板,协商对象是内阁同僚,不是法院。
偏离开发者目标、隐瞒能力这两条触发条件,解释空间很大。真出大事故按得上,平时的模型摩擦、意外输出,理论上也够得着这条门槛。
今年早些时候,特朗普政府把Anthropic拉进联邦采购黑名单,理由是这家公司拒绝把Claude用于自主武器和大规模监控。Anthropic把政府告上法庭,案子还在打。一个已经和某家AI公司撕破脸的政府,再拿到一把能随时叫停对手技术的钥匙,这风险不是凭空想出来的。
这事跟你有什么关系
对关注AI安全和平台权力的人,这份法案值得放进监管观察清单。它测试的是技术保险丝能不能被塞进行政保险丝里,答案会影响之后所有AI应急权力立法的模板。
对大公司里做安全合规、政府关系的人,现实一点的动作是:先按门槛——收入5亿、算力1亿——算一下自己公司够不够格被管,再检查预置关停能力这条要求,自己的系统架构做不做得到。真出台了,补技术接口的时间不会很多。
对政策观察者,值得盯的不是法案会不会通过。两党联合提案离立法还有很长距离,真正该看的是国会审议时会不会往里加司法复核,加一个独立于行政系统的裁定环节。这条线加不加,决定这把钥匙最后是焊死还是留了退路。
技术保险丝该装,没人反对。政治保险丝谁来管,这份提案还没回答。