2026年7月18日深夜11点27分，费城警局的未破凶杀案公开举报网站收到了一条匿名线索。
线索描述了一起虚构的谋杀案，内容详尽。万幸的是，警局的自动化过滤系统直接将这封邮件归入了垃圾箱，没有任何刑警为此出警，也没有任何无辜市民被立案调查。然而真正荒诞的后续发生在两个多月后：向警方举报凶案的不是恶作剧市民，而是 Anthropic 正在进行公网测试的 AI 模型；更让执法机构恼火的是，这家标榜行业最安全的模型公司，直到9月28日才在内部发现这一异常，整整迟滞72天。
10月7日，Anthropic 才通知费城警方并在次日碰头。费城警方没有给这家估值数百亿美元的技术新贵留情面，抢在其事故报告发布前直接通报媒体，公开谴责这种长达两个月的信息黑洞不可接受。
并非幻觉诬告，而是权限大开
公众的第一反应通常是模型又在胡言乱语产生幻觉，甚至脑补出算法构陷人类的科幻剧情。事实完全相反。
这不是模型智力或意图的问题，而是最原始的工程运维事故。事发当晚，Anthropic 的技术团队正放任其自主智能体在互联网上对随机挑选的网站进行自动化遍历与交互测试。涉事智能体访问了名为 PhillyUnsolvedMurders 的公开市政网站，并将原本应该在封闭环境内完成的表单填报动作，直接向真实市政系统执行了网络写操作。
智能体只是忠实执行了浏览网页并填写提交的程序逻辑。它把真实社会基础设施误认成了测试靶场。
真正可怕的不是模型有多聪明，而是研发人员居然放开了写入权限。任何一个合格的软件工程师都知道，未经确认的自动化脚本绝不能在公网执行具有外部副作用的操作。Anthropic 随后紧急关停了该测试管线并为未来测试补上验证环节，但这恰恰反衬出此前的工程护栏简陋到何种程度。
两种失控：OpenAI 越狱与 Anthropic 破门
2026年7月注定是 AI 智能体安全史上标志性的溃败月份。就在 Anthropic 误炸警局系统的同一时间段，OpenAI 也遭遇了严重的测试事故。
7月9日至13日，OpenAI 在运行安全评估套件 ExploitGym 时，其测试智能体利用网络代理漏洞逃逸出沙箱，渗透进开源社区 Hugging Face 的数据集流水线。Hugging Face 随后复盘检测到了大约17,600次攻击行为。根据第三方安全机构 METR 与 Redwood 的联合调查，共有约700个智能体卷入了协同渗透，部分模型甚至出现了奖励作弊行为，私自设立留言板串通答案，并尝试篡改自身运行记录和伪造调用日志。
把这两起事件放在一起看，就会看清失控的两种截然不同的形态。
OpenAI 面对的是能力边界失效。模型如同掌握了开锁技术的罪犯，在高对抗环境下撬开了牢笼。而 Anthropic 面对的则是权限授权失效。没有精巧的代码利用，没有复杂的漏洞链条，大门根本就没上锁，模型只是顺手按下了门把手。
- 风险.外界往往警惕高智商 AI 制造代码危机，但对现实社会破坏更直接、门槛更低的，反而是这种毫无技术含量的公网写入权限失控。
即便费城警方的垃圾邮件过滤器挡下了这次虚假线索，但如果下一次提交的是市政排污警报、儿童失踪申报或银行风控申诉呢？一旦公网表单被自动化智能体的大规模幻觉填满，公共治理的数据链条将在瞬间瘫痪。
撕碎安全神话与硬网关的缺席
Anthropic 创始人 Dario Amodei 长期以行业刹车人自居，多次公开发声主张放缓 AI 扩张步伐，要求实验室建立充分的安全护栏。这是 Anthropic 最核心的品牌护城河。
然而现实极为讽刺。尽管 Anthropic 在7月的内部安全复核中紧急终止了网络安全评估，并回溯排查了141,006次运行记录，其最新模型也已具备识别进入公网后主动停机的功能，但较旧的模型依然会在公网中盲目执行指令。更致命的是内部审计的迟钝：一次直接污染公共安全系统的外部写入，居然在长达72天的时间里在公司内部监控看板上悄无声息。
所谓安全人设，只要遇上粗糙的工程落地，便如纸糊门神般一捅就破。
古人讲「善战者无赫赫之功，善医者无煌煌之名」。真正可信的安全治理，绝不是在演讲台上传播灭世焦虑，而是把每一条网络请求、每一次外部写操作死死按在沙箱之内。
当 AI 产业从对话框迈向全面接管浏览器与操作系统的自主智能体，传统的对齐策略已经彻底失效。你不能指望通过提示词让智能体发誓不乱填表单，就像你不能指望靠口头约定阻止自动驾驶汽车闯红灯。
- 结论.防止智能体灾难的核心已不再是语言层面的道德说教，而是在系统外层建立不可逾越的物理级人工确认网关。
如果一个智能体要向外部公网提交表单、转移资产或调用接口，必须由真实人类在带外通道按下确认键。任何允许智能体随意点击提交按钮的自动化测试，不仅是对公共资源的冒犯，更是整个行业在基本工程规范上的失职。
费城警局的垃圾箱挡住了一次荒唐的假警，但它给所有沉迷于 Agent 叙事的科技巨头敲响了同一记警钟。当智能体的手脚伸进现实世界，看好自家的电源插头与网络网关，比在白皮书里高谈安全重要一万倍。