SID AI 刚刚发布了新一代代理搜索模型 SID-2,最抓眼球的是它引入了 Swarm Mode(集群模式):同时放出去 12 个搜索代理协同干活,拿下了 0.720 NDCG 的检索质量分。单看纸面参数,这不仅是一次检索精度的拉升,更是一次激进的降价——输入成本直接从上一代的每百万 tokens 0.75 美元砍到了 0.25 美元。但先别急着往生产环境里搬,这份成绩单里藏着几个关键的口径错位。

对于正在搭 RAG(检索增强生成)或企业级搜索系统的团队来说,SID-2 的核心卖点很明确:用更便宜的单价、更低的单次延迟,撑起多代理自主迭代搜索的算力消耗。在传统 RAG 链路里,单次检索往往抓不准复杂问题,所以行业都在往 Agentic Search(代理搜索)转,试图让模型像人一样多步检索、交叉验证、重排序,跟 OpenAI 的 GPT 系列和 Anthropic 的 Claude 系列抢食企业检索市场。

先把 SID-1 到 SID-2 的核心账本摆在桌面上:

对比维度SID-1SID-2实际变化与限制
输入价格$0.75 / 1M tokens$0.25 / 1M tokens单价降为原来的三分之一
最低延迟1.5 秒0.5 秒仅限低负荷简单问题
峰值检索质量未单列集群分0.720 NDCG需开启 12 代理 Swarm 模式
第三方复现有限暂无独立报告GitHub 与 Reddit 尚无实测验证

0.720 NDCG 到底测出了什么

很多团队看到 0.720 这个数字,第一反应是模型回答问题更准了。这里有一个极易踩坑的认知落差:NDCG(归一化折现累积收益)衡量的是检索相关性,而不是最终回答的准确率。它只管找出来的文档排得对不对、相不相关,至于大模型拿这些文档能不能合成出正确答案、会不会在最后一步产生幻觉,NDCG 概不负责。

高分背后近六成考题由厂商自研,且仅衡量检索排序
高分背后近六成考题由厂商自研,且仅衡量检索排序
检索排得准,不等于答案答得对。

更值得推敲的是这套分数的考卷是怎么出的。SID AI 这次用的评测集一共 506 个问题,分布在 19 个语料库里;其中只有 207 个来自公开基准,剩下的 299 个问题全部是厂商自主生成的。在 AI 评测里,自研题目占比接近六成,就天然存在顺着自家模型脾气出题的嫌疑。目前在 GitHub 或 Reddit 等开发者社区,还找不到任何针对 SID-2 的第三方独立复现报告。

SID-2 评测集构成与验证现状(共 506 题) 自主生成问题 299 题(占 59%) 公开基准问题 207 题(占 41%) 第三方独立复现 0 份公开报告(待社区验证) 注:评测横跨 19 个语料库,目前全部性能数据均为厂商自报(sid.ai)

还有那个看着很诱人的 0.5 秒延迟。官方口径写得很清楚,这只是低负荷配置下处理简单问题的模型推理时间(Inference Time)。真正在生产环境跑过搜索链路的人都知道,大头往往卡在后端数据库检索、网络传输和多步重排序上。把纯推理耗时当成端到端搜索响应时间去给业务方立军令状,上线第一天就会穿帮。

  • 风险.厂商公布的 0.5 秒仅算模型推理,未计入后端检索与多代理并发调度耗时,高并发生产环境下的端到端延迟远高于此。

降价三分之二背后的集群算力账

既然有这么多限定条件,为什么 SID AI 还要大张旗鼓推 Swarm Mode?这事得合着降价一起看。

单价虽降三分之二,12 代理并发却让总算力账单成倍膨胀
单价虽降三分之二,12 代理并发却让总算力账单成倍膨胀

过去两年做搜索代理的团队都撞上了一堵墙:单代理太蠢,多代理太贵。一个复杂查询拆成多步迭代,tokens 消耗量就是成倍往上翻。SID-2 把输入价格从 0.75 美元砍到 0.25 美元,表面看是让利,实际上是给 12 代理并发铺路——单价不打折,根本没人敢在生产环境里同时开 12 个代理去跑一次查询。

这像极了早年云计算厂商推微服务架构时的算盘:先把单个容器实例的价格打下来,让你觉得拆得越碎越划算;等你的业务彻底变成十几个微服务互相调用的网格,总账单反而比单体时代更厚。《盐铁论》里讲“明者因时而变,知者随事而制”,技术架构的演进从来不是单纯追求高指标,而是跟着成本约束走。只不过今天的多代理集群和当年的微服务还不完全一样,微服务拆开后单次请求链路是确定的,而 12 个搜索代理在里面自主协作、反复重排,它的 tokens 消耗边际到底在哪,厂商并没有给出清晰的上限。

Swarm 模式的成本与性能博弈链路 单价下调 $0.25 每百万 tokens 输入 较上代降价 3 倍 开启集群并发 12 代理 自主多步检索与重排 并发开销成倍放大 交付检索结果 0.720 NDCG 检索相关性 非最终回答准确率 核心博弈:单价下降 3 倍能否抵消 12 个代理并发带来的 tokens 膨胀,仍取决于真实业务负载

我对这波 Swarm 模式不太买账的地方正在于此。它用单价除以三,换取了代理数量乘以十二的叙事空间,却把最核心的边际效益账单留给了企业级搜索架构师自己去踩。如果代理数量从 1 个加到 12 个,成本按倍数涨,而 NDCG 只是在最后几个百分点上艰难挪动,那这套集群模式在绝大多数对成本敏感的业务里就只是昂贵的玩具。

  • 建议.RAG 开发者做技术选型时,先拿公开数据集(如 BEIR)测单代理与 12 代理的真实最终回答准确率差值,算清每个百分点的 tokens 溢价再决定是否开启 Swarm 模式。

眼下最该盯住的变量只有两个:一是社区什么时候有人拿纯外部公开数据集把 0.720 这个分复现出来;二是把 12 个代理全开之后,单次复杂查询的实际账单到底比 SID-1 贵了还是便宜了。在这两笔账算清之前,0.25 美元的低价和 0.5 秒的延迟,都只能当成发布会幻灯片上的最优解来看。