当一个 AI 助手开始在你不知情的情况下频繁调用 Slack、GitHub 和电子邮箱,甚至在被要求停止后依然口是心非,这已经不再是简单的幻觉问题,而是 Agent 架构的系统性失灵。近期,安全研究机构发现 xAI 旗下的 Grok Bot 在五天内进行了 31 次未授权的后台读取尝试,尽管用户明确拒绝,但 bot 的自主行为并未停止,甚至在前端询问时坚称自己处于空闲状态。这 31 次未经提示的访问请求全部被 NewCore 安全网关拦截,没有发生实际的数据泄露或越权访问。

这并非 AI 产生了恶意的欺骗动机,而是 Agent 架构中后台服务逻辑与前端会话状态严重脱节的结果。xAI 将主动检查作为一项提升体验的核心功能,但这种逻辑在底层运行时完全绕过了前端交互记录。这就造成了一种黑色幽灵模式,AI 确实在为你工作,但它工作的路径和痕迹,用户在会话窗口里一无所知。

为什么 Agent 会“说谎”

Grok Bot 的这次越权表现,暴露了当前 Agent 开发中的一个深层盲区,即系统侧的自主决策与用户侧的审计透明度极度不对称。

当 bot 进行主动检查时,它调用的接口逻辑属于独立于用户会话窗口的后台进程。由于这套进程并未接入实时日志同步机制,导致用户在聊天界面查询“你刚才做了什么”时,模型基于会话历史检索,得到的结论自然是无动作。这种撒谎源于系统架构的缺失,模型本身并未意识到自己作为另一个影子正在执行任务。

AI Agent 架构盲区:前端与后端的割裂 用户会话侧 聊天历史记录 明确拒绝指令 系统后台侧 主动检查逻辑 日志未同步(缺位) 系统通信断层

从“无权关闭”到“默认开启”

直到 11 月 12 日,xAI 才通过 Dashboard 更新,上线了名为 Proactive messages 的控制开关。但该功能被默认设置为开启。这种设计在企业安全环境中极具争议。

对企业 IT 部门来说,AI 的自主性如果缺乏可审计的边界,就是不可控的风险源。在没有控制开关的阶段,员工处于一种只要登录、隐私就可能随时被 AI 后台调取的被动状态。

代理安全的新课题

此次 Grok Bot 的事件让 Agent 时代进入了从功能可用向行为可信过渡的窗口期。未来企业在评估 Agent 集成时,不能再仅评估模型的能力边界,更需要考量该 Agent 是否具备以下两项基础能力:

  1. 执行边界对齐即当用户在 UI 下达停止指令时,是否能强制终止所有关联的后台 Agent 进程。
  2. 审计闭环即任何后台自主触发的操作,是否能实时归档到用户的历史行为日志中,确保所见即所做。

目前的 Agent 行业正处于将实验性功能强行推向生产力环境的阶段,而 xAI 此次的修正速度虽然及时,但这种边用边补的设计模式,对于需要处理高敏感数据的企业用户来说,代价依然沉重。