加州州长加文·纽森签署了一道引发全行业震动的行政令，要求加州政府运营局与紧急事务办公室在 2026年11月16日前 提交建议，评估是否要强制前沿模型配备紧急切断机制。各大媒体在头条打出加州推进紧急开关的醒目标题，让不少人误以为硅谷明天就必须给数据中心装上红按钮。这完全是对行政令与法律现状的误读。
纽森签署的 Executive Order N-9-26 并没有直接确立强制关停的法律义务，甚至没有开出一张罚单。加州真正做的是在立法研究的掩护下，将监管触角前推至研发核心区：要求评估让第三方验证机构常驻实验室进行现场审计、强制核查安全评估，以及在发生类似 OpenAI 针对 Hugging Face 这类攻击事故时扩大失控事件的报告范畴。
从否决法案到加码行政令
两年前的加州完全是另一番景象。2024年9月29日，纽森亲手否决了备受争议的 SB 1047 法案。那部法案要求对训练成本超过 1亿美元 的模型设立全面关停能力。当时纽森给出的理由极其直白：以算力和研发开销作为监管门槛毫无实证科学依据，不仅会给公众制造虚假的安全感，还会挫伤加州的科技创新根基。
时隔两年，纽森的态度并未发生戏剧性的打脸，而是换了一套高明得多的监管解法。他否决掉单一粗暴的算力门槛后，转而通过一系列小步快跑的法案编织安全网络：2025年签署聚焦透明度与风险报告的 SB 53；2026年9月9日，他又接连签署了 SB 813 与 AB 1405 两部配套法律，分别确立了第三方验证机构的认证框架和 AI 审计员注册机制。
这次的行政令在制度层面的最大动作，是把此前立法的准备期大幅压缩：将 SB 813 的准则发布截止日从 2028年1月1日 提前至 2027年5月1日；将 AB 1405 注册系统的开发要求提前至 2027年12月1日。
这一步看清了便不难明白，纽森从当年的否决者变成了如今的操盘手。他不再执着于在法律条文里生硬规定一亿美元的红线，而是先把审计制度和监管人员的编制立起来。需要指出的是，SB 813 现行条文本身并未强制要求开发者雇佣独立验证机构，目前的加州法律体系内依然不存在硬性关停义务。
灭火器的技术虚妄
政客们喜欢把复杂的系统安全简化为一个直观的自毁开关，但这在计算机工程里纯属幻觉。
伯克利学者 Mark Nitzberg 就曾明确提醒，紧急断路机制充其量是个政治愿景，根本算不上严肃的工程现实。对于由云端 API 托管的封闭系统，切断服务无非是关闭端点或断开机房电源，企业随时能做。但在开源与权重自由分发的领域，世上没有任何机制能远程抹除全世界数万台服务器和个人终端里已经下载的模型文件。
覆水难收，早已分发的模型权重不可能靠一道政令召回。
李飞飞与吴恩达等学界泰斗在两年前就反复呼吁，对底层通用模型施加物理级别的强制关停约束，受创最重的从来不是资金充裕的超大公司，而是整个开源生态与依赖开源做独立安全评测的研究团队。大公司有足够的合规团队去写材料、跑审批，小团队和学术机构只会因为背负不起连带责任而选择离开。
试图打造一个万能开关还潜藏着更大的系统性风险。在网络安全架构中，任何具有全域最高权限的集中控制点，本质上都是一个巨大的单点故障漏洞。一旦政府或平台强制留出可以一键切断服务的通道，这个通道就会成为黑客与恶意破坏者最诱人的靶子。如果某天接入关键基础设施的 AI 系统因开关被攻破而骤然下线，造成的实际破坏甚至可能远超模型本身输出错误内容的代价。
谁在握着切断电源的权力
比技术不可行更棘手的，是这项权力究竟交由谁来行使。
行政令里最令硅谷工程团队侧目的设想，是要求评估让外部审计机构常驻开发者实验室进行日常审查。在大模型核心权重属于最高商业秘密与国家战略资产的当下，让拥有公权力授权的第三方常驻机房和研发会议室，其保密机制如何落实，目前没有任何切实可行的制度保证。这不仅关乎知识产权外泄，更关乎技术迭代节奏是否会被冗长的官僚审计拖垮。
在法律层面，紧急切断权力的归属更是个宪法级的难题。由开发者内部自决，所谓的强制机制就形同虚设；若交由州政府或行政长官直接签发断网命令，缺乏极度严格的司法介入与透明审理，极易异化为借安全之名打压特定算法或言论倾向的审查工具。
加州的动作和欧盟的做法截然不同。欧盟的 AI 法案虽然严苛，建立了覆盖通用模型的系统性风险报告机制，要求开展对抗性测试，但通篇未曾强行写入任何物理层面的关停开关要求。加州在适用的主体范围上比欧盟更狭窄，但在具体技术干预的深度上，却走上了一条远比欧洲更为激进的行政监工路线。
- 风险.将紧急制动机制机械化地嵌入底层系统，不仅无法防范失控，反而会平添被恶意利用的单点网络脆弱性。
退一步看这盘棋局，华盛顿国会因临近中期选举陷入实质性立法停滞，联邦层面的 AI 规范迟迟不能落地。加州通过密集的法案与提速的行政令抢先占位，表面上是在寻找一把终极安全的锁，深层是在为全球科技资本划定进入硅谷的新门槛。前沿模型需要安全防线，但用常驻监工与自毁开关构建的合规壁垒，最终结算的账单只会压在加州创新活力的底盘上。