Anthropic 首席执行官 Dario Amodei 最近发表长文，主张美国前沿大模型研发必须统一放缓步调。与以往硅谷倡导的技术自律不同，他明确提出应当动用国家强制权力，让第三方评估机构以类似银行业驻场督察的形态，常驻企业内部审查尚未发布的模型、训练流程乃至底层管线。
这意味着前沿技术的游戏规则正在发生质变：AI 治理正试图从企业的自我约束，滑向带有准入性质的行政许可。
从安全分级到常驻督察
在此之前，头部大模型机构的治理主要依赖自建规则。Anthropic 此前确立了负责任扩展政策，把模型划分为 ASL-2、ASL-3 等不同安全梯次，以此强制触发针对生化武器协助、网络反制以及智能体自主复制的防御手段。
但在 Amodei 看来，面对商业竞速，仅靠单方自觉难以为继。他构想的治理框架包括强制性的训练前报备、安全案例论证，并在模型部署前交由国家 AI 安全研究所与独立审计方进行深度评估。其中最激进的一项，是要求让 METR 这类专门评测智能体长周期工程与工具调用能力的外部机构，获得类似内部员工的访问权限，贴身审查研发细节。
把银行业的现场监管逻辑直接平移到软件工程，在法理与工程实践上立刻撞上了暗礁。华尔街的驻场审计员清查的是准备金率与账目造假，防范的是可量化的金融欺诈；而一旦把驻场监督引入代码研发，谁来界定什么是安全，谁又来界定什么是必须剪除的输出？
GARM 的覆辙与审查中介的寻租
科技法律学者 Preston Byrne 随即对这套方案发起质疑，直接抛出反问：谁来对齐对齐者？
在他看来，这种由非政府组织与外部专家充当把关人的机制，在 Web 2.0 时代已有惨淡的前车之鉴。最典型的例子就是负责任媒体全球联盟。这个跨行业组织曾打着品牌安全的旗号制定规则，但在实践中却联合全球监管机构向社交平台施压，甚至通过主导集体广告抵制来压制特定政治观点。该联盟遭到美国众议院司法委员会展开反垄断调查后，于 2024 年被迫解散。
历史并没有过去太久。当安全评估从中立的技术测量演变成手握发布生杀大权的准准入机构，它不可避免地会滋生出寻租空间。
安全标准的制定权落在谁手里，谁就拥有了重新定义合法软件的权力。
反监管派的担忧不仅停留在中介组织的腐化。从反垄断视角看，如果行业头部的极少数巨头在安全名义下协同对齐，统一制定接口限制或排他条款，实质上极易演变成合规卡特尔。
撞上第一修正案的硬墙
如果说行业寻租是利益分配问题，那么监管提议在美国遭遇的则是根本性的宪法抵触。
在美国司法实践中，源代码长期被法院确立为受保护的表达形式。这意味着，开发软件、发布代码与托管网络服务，原则上享有第一修正案所赋予的言论自由保护。行政机关若要求模型在上线前必须经过第三方审查员核准发放准生证，极易被判定为事前审查与强迫言论。
这暴露出双方在概念界定上的严重错位。技术安全团队关注的是生化毒素合成、关键基建攻防这类客观的物理杀伤力；但在法学界与自由市场派看来，一旦将这种评估机制法定化，行政公权力必然会顺水推舟，把防范武器级危害扩展为对模型思想倾向、价值输出的审查体系。
创投界人士 David Sacks 对此直言不讳：如果一家公司真认为自己的技术具有毁灭性，它随时可以自主停下研发脚步；但如果它转头游说政府设立法令强制所有人同步放缓，那更像是借助国家机器为自己构筑合规护城河，用高昂的合规门槛绞杀开源生态与后来者。
- 风险.前沿大模型的治理如果继续沿着行政许可与嵌入督察的路径推进，不仅很难在全球范围内形成有效约束，反而会率先在法庭上面临漫长的宪政诉讼，最终将技术竞争演变成合规租金的消耗战。
安全防线当然需要建立，但将物理层面的武器防御与代码层面的表达权利混为一谈，无异于因噎废食。治理真正应当聚焦的，是对客观恶意行为与严重物理后果的追责，而不是给整个人类软件工业重新套上一道前置的出版许可。