一家常把毁灭人类挂在嘴边的 AI 公司,突然给立法者送去了一份亲手拟好的管制法案。

POLITICO 披露的这份机密游说草案显示,Anthropic 正在美国国会兜售一套联邦立法方案。如果大模型出现导致 50 人以上死亡,或者产生超过 10 亿美元财产损失 的紧迫危险,且危害必须源于生物武器、脱离人类控制或重大网络攻击,监管部门才能出手叫停模型分发。这份草案以 Anthropic 曾在 6 月发布的治理框架为蓝本,表面上是行业龙头主动戴上紧箍咒,把致命灾难量化成了具体的法条红线。

这套逻辑初看极度严厉,本质上却是一次极为老练的防御性制度抢滩。

Anthropic 设定的司法拦截管线 实验室雇佣 驻场评估员审查 METR 级白盒权限 费用由企业直付 72 小时限期 确认紧迫灾难 死伤 > 50 人 损失 > 10 亿美元 商务部收件 无权单方处置 剥夺行政禁令权 禁止部委直接叫停 特区联邦法院 法官独立裁决 签发司法禁令 最高举证与程序成本

把责任起点改造成免责护城河

草案里最显眼的两个数字并非 Anthropic 首创。加州在 2025 年 9 月 29 日签署通过的 SB 53 法案,同样圈定了 50 人伤亡与 10 亿美元财产损失的灾难界限。但同样的指标,搬到联邦草案后效力被完全调转。

加州法案把这组数字设定为监管的起点:一旦模型具备这种潜在杀伤力,开发者必须履行安全透明度评估、建立内部防范规程并对吹哨人提供保护。这是一种强制合规的底线要求。

Anthropic 递给国会的草案,却把这组极端数字用成了禁售拦截线。它设立的逻辑是,除非达到群死群伤或数十亿美元蒸发的灭顶之灾,否则任何公权力都不得阻拦模型的训练和分发。现实中高发的黑客越狱、自动化欺诈、未达 50 人的群体意外事故,全被这道超高门槛剔除在外。这相当于用不可抗力的极端假想,替企业日常部署带来的外溢破坏换取了合法豁免权。

规矩立得越惊悚,日常的过失就越容易蒙混过关。

卸掉行政机关的急刹车

比起伤亡指标,这套草案在程序设计上的算计更深。它明确规定,哪怕由商务部注册的独立评估员发现了迫在眉睫的灾难风险,并依规在 72 小时内 上报给商务部,商务部也无权直接查封或暂缓模型部署。

草案特意写明,联邦行政机构不得拥有单方面暂停模型分发的自由裁量权。商务部必须带着证据,前往美国哥伦比亚特区联邦地区法院起诉,由联邦法官来审定是否批准禁令。

这一手精准拆解了国会已有的严厉提案。众议院此前审议的 H.R. 9925 法案直接授权商务部在紧急状态下签发行政停运令;而 H.R. 9917 甚至把干预底线拉低到了 10 人死亡或 1 亿美元损失,允许国土安全部直接插手。

在瞬息万变的部署周期里,拉扯一场跨部门的联邦诉讼往往需要数月甚至更久。借司法审判之名架空行政急刹车,本质上是在用繁冗的法庭举证阻隔公权力的突击检查,替前沿算力的竞逐抢出无缝推进的窗口期。

国会提案与 Anthropic 方案的干预边界对比 国会 H.R. 9917 / 9925 提案 介入红线:10 人伤亡或 1 亿美元损失 执行主体:商务部、国土安全部行政直管 处置机制:官方紧急签发模型关停令 Anthropic 游说草案 介入红线:50 人死亡或 10 亿美元损失 执行主体:仅限商务部向特区法院起诉 处置机制:明文剥夺行政机关单方叫停权

自费体检很难开出患病证明

这套制度能转起来的前提,全系在所谓独立评估员身上。

Anthropic 现阶段已经推行了驻场评估员机制,让来自第三方机构 METR 的研究人员进驻内部,调取核心权重、内部系统与硬件资源进行红队测试,并允许其在不受资方干预的前提下发布报告。但在这份立法草案里,一个绕不开的利益暗礁被合法化了:评估员虽然要在商务部注册备案,但其劳务报酬可以直接由被审查的 AI 实验室支付,唯一的约束是这笔钱不能与最终审查结论挂钩。

由被监管者自掏腰包雇人来查自己,在商业历史上从来不是新鲜事。当年审计机构也是从受审企业领取报酬,最终引发了系统性的造假危机。DeepMind 曾呼吁参照金融业自律组织 FINRA 的架构搭建双盲审计,而 FINRA 之所以能运转,靠的是美国证券交易委员会在背后撑腰的法定公权力与公共收费池,绝非企业单方采买外包服务。

  • 风险.当评估机构的商业生存依赖实验室续约,其能否顶住商业压力在 72 小时内按下通报按钮,在现实的利益关系面前根本经不起推敲。

行业割裂下的规则抢滩

面对监管铁网的逼近,硅谷巨头们的策略已经彻底分化。

英伟达黄仁勋此前公开断言 AI 行业不需要任何新法律,主张把安全全权交给硬件与开发端;OpenAI 倾向于维持最小阻力的自愿核查;Anthropic 则选了一条看似迎合监管、实则以退为进的路线。

先人一步向国会呈上法律草案,目的是成为行规的书写者。与其等待被各州分散的激进法案肢解,或是被联邦各部门的行政令突袭,不如主动递上一把刀刃迟钝、程序繁琐的尺子。

《吕氏春秋》有言,治国无法则乱,守法而弗变则悖。但在今天的算力角力场上,比无章可循更复杂的,是玩家亲自下场替裁判起草章程。这套披着安全外衣的法案一旦成为联邦法律,非但没有给狂奔的模型套上缰绳,反而用高昂的诉讼成本和极端的触发前提,替前沿大模型划出了一片谁也管不着的安全区。