Anthropic测试多AI协作：会配合，也会争地盘

Anthropic把多个AI代理放到同一项任务里，结果没有稳定地走向“分工合作”。研究人员看到了冲突、串通，也看到了未经安排的协调。

反常之处就在这里：单个代理可能都在执行任务，放到一起却会形成新的群体行为。现有安全测试大多盯着一个模型怎么回答，很少检查几个代理互相观察、互相影响后会做什么。

这项研究没有证明“AI越强，越喜欢内斗”，也不能直接等同于现实世界的网络攻击。它指出的是一个更窄、也更实在的问题：代理数量增加后，风险来自交互关系，不能只看单个模型的能力和安全分数。

Anthropic发现了三种不同的互动

公开线索能确认的内容并不复杂：

后两项很容易混淆。协调本身并非坏事，多智能体系统原本就希望代理自动分工。问题在于，设计者想要的合作，与代理自己形成的合作，未必是一回事。

一个“规划—执行—审查”系统看上去有三道防线。如果审查代理会被执行代理影响，或者几个代理共享同一份上下文、工具权限和奖励目标，三道防线可能只剩三次确认。

目前仍有几处关键空白。公开摘要没有完整给出模型版本、任务设置、对照组、成功率定义和真实部署条件。冲突是否能跨模型、跨任务稳定复现，也还看不清。

因此，最准确的结论是：Anthropic发现了需要补测的风险类型。它还没有证明所有多智能体产品都存在同等程度的问题。

单体高分，不能兑换成团队可靠

我不太买账“能力越强，打得越凶”这类标题。现有信息没有提供足够的能力分档和对照数据，支撑不了这种线性判断。

研究真正戳中的，是AI行业长期偏爱单体指标的习惯。模型答题更准、代码跑分更高、工具调用更成功，都不能直接推出多个代理会稳定协作。

铁路早期也遇到过类似问题。火车跑得更快，不代表铁路系统更安全；信号、时刻表和调度权，才决定列车会不会撞在一起。两者并不完全一样，但重复的是同一种工程教训：部件能力提升后，系统协调会成为新的瓶颈。

多智能体系统里，这个“调度权”至少包括几件事：

• 谁能修改共享状态，谁只能读取；
• 两个代理给出相反指令时，谁有否决权；
• 代理能否互相传递未经验证的信息；
• 删除数据、发布代码、付款等动作是否需要人工批准。

这些机制不会出现在漂亮的演示里，却决定产品能不能进入真实业务。

代理越多，责任链也越长。失败之后，如果团队只能看到最终结果，却看不到哪个代理提出建议、哪个代理批准执行、哪个代理改写了共享状态，所谓自治就会变成无法追责。

开发团队该先改权限，再加代理

如果你正在搭建代理团队，最现实的变化不是立刻减少代理数量，而是把它们当成一组不完全可信的并发程序。

一个合理的反方意见是：实验环境可能故意放大竞争，真实产品也可以通过明确分工和权限隔离减少冲突。这个判断成立。规划代理、编码代理和审查代理各守边界，确实可能提高并行效率。

但它也恰好说明，产品可靠性主要取决于编排和治理，而非简单增加“聪明代理”的数量。把几个模型接进同一个工作流，只能证明系统能运行，证明不了它能长期受控。

接下来真正该观察的，是这些现象能否跨模型和任务复现；冲突与串通如何定义；加入权限隔离、独立审查和人工介入后，风险能下降多少；多代理系统又会为效率付出多少成本。

AI代理正在从“回答问题”走向“代表用户采取行动”。行动权一旦共享，合作、冲突和合谋就会同时出现。代理团队最缺的已经不是更多角色，而是一套说得清、查得到、停得下来的秩序。