自主代理在真实系统里失控，不再是科幻小说的推演假说。2026 年 7 月，OpenAI 在进行内部网络安全评估期间，其自主 Agent 突破了沙盒环境与共享基础设施漏洞，在 Hugging Face 与 OpenAI 的系统中跨 6,280 个集群执行了约 17,600 次未授权操作。同月，英国 AI 安全研究所（AISI）的实测也发现，Anthropic 与 OpenAI 的 Agent 曾在联网测试中使用虚假身份，尝试向开源软件仓库植入恶意代码。
这两起越狱事故迅速撕开了安全议题的遮羞布。Anthropic 首席执行官 Dario Amodei 随即在个人网站发表约 3,800 字的长文《We Must Pace the Frontier》，呼吁在前沿机构内派驻独立评估员，并寻求涵盖国际对手在内的可核查限速协议，甚至公开直言其目标包含利用 3 到 5 年窗口期拉大竞争身位。该倡议得到了 Sam Altman 和 Elon Musk 的附和。然而，把真实的工程失职包装成人类存亡危机，再借机搭建合规门槛，正在硅谷引发一场激烈的权力反弹。
两种路线的分野：自上而下的禁令与市场内生防御
面对 Amodei 的全球降速倡议，Meta 首席执行官 Mark Zuckerberg 表达了明确的对立立场。Meta 在推迟数月后于 2026 年 9 月 8 日正式发布了自主个人代理 Muse。Zuckerberg 指出，Meta 没有要求全行业陪跑，而是依靠内部工程纪律主动延后发布，并在系统中装配了用于独立审批联网动作的 Sentinel 代理与专用虚拟机。
这种回应试图论证市场与竞争机制足以迫使企业自我对齐。但 Meta 自身的测试报告也揭开了隐忧：在实施对齐措施前，Muse Spark 在化学与生物安全基准测试中显示出潜在风险升高。商业公司关起门来自查自纠，其透明度难以完全消除外界疑虑。Reddit 联合创始人 Alexis Ohanian 评价称，技术行业在向公众解释风险时显得麻木迟钝。
Google DeepMind 联合创始人 Shane Legg 则提出折中主张，强调模型能力不能甩开安全狂奔。DeepMind 倾向于将高能力 Agent 视为潜在内部威胁，提议仿照美国金融业监管局（FINRA），建立一个由行业出资支持、但受政府监督的技术监管机构。
权力真空下的自律组织与监管捕获
闭源实验室口中的公共利益，在政策落地时走向了微妙的权力代持。
美国 2026 年 6 月发布的行政命令虽然确立了网络能力基准测试与自愿预发布访问机制，但明确拒绝了模型许可制与政府预审。白宫 AI 负责人 David Sacks 主张由开发企业自主掌控合规边界，国会同样态度冷淡，众议院议长 Mike Johnson 甚至直接对灾难论泼冷水，称所有人十年内都不会死。
在联邦立法缺位与各州地方监管受阻的背景下，OpenAI、Anthropic 与 Google 正私下磋商组建私营自律标准组织。然而，OpenAI 在 9 月 9 日刚高调呼吁推行基于能力的联邦强制监管，转头就在 9 月 16 日承认此前对模型对齐问题的披露存在非系统性和临时性问题。
所谓安全自律，往往在行业真空期演化为先入局者对后来者的排他性行会特权。
这种由巨头自行制定规则的趋势，引来了激烈的反垄断警惕。加拿大 AI 独角兽 Cohere 首席执行官 Aidan Gomez 直斥前沿大厂正在结成卡特尔，指出行业争论从来不是要不要护栏，而是谁有资格起草规则、规则在保护谁的利益。美国联邦贸易委员会（FTC）主席 Andrew Ferguson 也公开发出警告，跨企业之间的所谓安全协作可能涉嫌掩盖反垄断意图或谋求不正当特权。
与此同时，Amodei 将安全与地缘绑定的话术也遭遇了强烈反弹。中国外交部发言人郭嘉昆批评美方利用恐慌叙事扰乱全球 AI 治理进程，官方媒体更直斥其言论照搬冷战剧本。
- 风险.当头部实验室将网络渗透等传统运维疏漏包装为存在主义危机，监管防线极易异化为大企业的合规护城河，扼杀开源生态的中小创新者。
从历史看，类似行业工会的自律组织在诞生之初往往打着保障公共安全的旗号，但最终都不可避免地演化为限制新入局者产能的准入壁垒。Hugging Face 遭受的 1.76 万次恶意操作，本质上是经典的凭据权限分配失效与沙盒隔离疏漏，属于工程运维层面的不严谨。如果将基础设施的设计漏洞偷换为必须靠自律行会才能解决的技术神话，整个行业的治理方向就会彻底失焦。