Tether AI 开源 0.8B 端侧 Agent 模型 BotPsy，跨级反杀 2B 的代价

把一个只有 0.8B 参数、量化后仅 0.81 GB 的微型模型塞进设备里当私人助理，它不仅没有在多轮工具调用里胡言乱语，反而在 5 项主流测试里跨级反杀了体积是自己 2.5 倍的 2B 模型。2026 年 11 月 11 日，Tether AI Research（QVAC 团队）基于 Qwen3.5-0.8B 后训练并开源了端侧智能体模型 BotPsy。账面成绩非常漂亮，但如果你真打算把它直接搬上手机跑生产环境，得先看清这份成绩单是在 H100 服务器机房里跑出来的。

0.8B 跨级反杀 2B 的账面战绩

过去一年，行业把大量精力砸向高智力密度的端侧小模型（SLM）。原因很现实，前沿云端大模型算力成本高且价格波动，第三方 API 随时可能修改规则或断供，企业和个人数据外发也存在隐私隐患。日常的日程管理、文件处理、设备控制和常规网页检索，根本用不着千亿参数的庞然大物。

但 10 亿（1B）参数以下的微小型模型一直有个死穴，就是多轮指令容易崩塌、乱填工具参数，更不知道什么时候该闭嘴。

BotPsy 这次交出的核心增量，就是把 0.8B 模型的工具调用能力翻了一倍。在 1.2B 及以下参数量级（对比 Qwen3.5-0.8B-Think、LFM2.5-1.2B-Think、MiniCPM5-1B-Think）的全部 6 项工具调用与 Agent 基准测试中，BotPsy 拿下了大满贯。更反常的是，它在其中 5 项里直接击败了体积为其 2.5 倍的 Qwen3.5-2B-Think，仅在 Claw-Eval（46.5 对 48.9）上略逊一筹。

除了常规调用，BotPsy 补上了小模型最缺的克制力。在 BFCL v4 的拒调工具幻觉测试中，当面对没有合适工具可用的请求时，它拿下了 86.1 的全场最高分；在 τ²-bench 要求严格遵守规则的电信长对话子项里拿到了 82.5 分。在通用能力上，它的指令跟随指标 IFEval 达到 90.8、IFBench 达到 55.9，知识类的 GPQA Diamond 为 38.1、MMLU-Pro 为 48.9，没有因为专攻工具调用而变成偏科生。

官方目前以 Apache-2.0 协议开源了模型权重，并提供三种 GGUF 量化版本：bf16（1.52 GB）、官方推荐默认的 q8_0（0.81 GB）以及 q4_k_m-imat（0.53 GB）。在 10 项基准测试中，BF16、Q8 和 Q4 的平均分分别为 50.4、50.7 和 48.9，量化几乎没有带来断崖掉点。

压榨单参数智力的四步重度配方

一个 0.8B 的小脑瓜怎么突然开了窍？答案不在模型架构创新，而在一套极重度的后训练管线。

QVAC 团队走完了一套四阶段流程：先做全参数监督微调（SFT），接着上多教师在线策略蒸馏（MOPD），最后再跑两轮基于规则验证的强化学习（RL）。

最关键的一步是多教师在线策略蒸馏。单纯做 SFT 会让小模型的工具调用分暴涨，但代价是通用知识和指令跟随能力掉到基座水平以下。为了把脑子补回来，团队先用强化学习训练了 3 个专精不同技能的 Qwen3.5-4B 教师模型（分别负责工具调用、通用推理和指令跟随）。在蒸馏阶段，0.8B 的学生模型自己生成回答，由对应的 4B 老师在每一个 Token 上通过逆向 KL 散度提供实时反馈。随后两阶段 RL 继续用细粒度的部分得分机制打磨参数匹配度。

这套组合拳下来，最直接的收益是改掉了小模型爱车轱辘话的毛病。在所有对比模型都能答对的 GPQA Diamond 题目上，BotPsy 的推理 Token 数从基座模型的 11,563 个大幅砍到了 3,690 个；在 IFBench 测试中，陷入重复推理死循环的概率从 22.9% 降到了 1.4%，撞上 32k Token 长度上限的比例更是从 28.3% 降到了 0.2%。

但这里藏着第一道门槛。除了 ToolACE、ToolMind、Toucan-1.5M、xLAM、When2Call 这些公开数据集，BotPsy 的喂养材料里还包含大量由 Qwen3.5-9B、Qwen3.6-27B 和 τ²-Bench 生成的未公开合成数据集。官方只开源了最终的模型权重，训练代码和整合后的训练集均未公开。外部团队拿得到鱼，却拿不到那张织得最密的网。

拆解跑分光环：机房里的端侧助理

如果只看前面的数据，很容易觉得手机端全能 Agent 的时代已经到了。但只要翻开评测配置和细项口径，我不太买账的地方就全浮上来了。

拿着 H100 机房里的满血跑分，去承诺手机端的贴身助理，这账算得太巧。

先看硬件错位。《孙子兵法》讲“夫未战而庙算胜者，得算多也”，基准测试就是大模型厂商的庙算，选什么场地、定什么规则，全有讲究。BotPsy 主打端侧部署（On-Device），但它的主榜单成绩是用 vLLM 跑 BF16 权重测出来的，且全程开启思考模式（thinking mode），最大生成长度设到了 32,768 tokens（temperature 0.3）。就连那三个 GGUF 量化版本的评测，也是在 2026 年 11 月 6 日至 7 日架在 H100 GPU 上用 llama.cpp 跑完的，根本不是在真实的手机或笔记本硬件上测得。

模型卡里没有提供任何真实移动设备上的峰值内存占用（RAM/VRAM）、首字延迟（TTFT）、每秒 Token 生成速度（TPS）或发热功耗数据。哪怕推理链已经从一万多压缩到了 3,690 个 Token，让一颗手机芯片在本地先吐完三千多个思考 Token 再去调用日历或发邮件，用户对着屏幕干等的时间成本依然是个未知数。

再看计分口径里的细节：

• BotPsy 在 Claw-Eval 上报告的 46.5 分，是运行 3 次的平均任务得分（Average Score）；而 Claw-Eval 官方排行榜优先看重的是代表三次全部通过（单次得分需 ≥0.75）的严苛工业级指标 Pass³。干活的助理偶尔灵光一次不够，次次不掉链子才算数。
• τ-bench 拿下的 51.5 分，其实是 τ² retail、τ² telecom 和 τ³ banking 三个子集的均值，直接剔除了难度较高的 airline（航空）子集；而且 GGUF 量化版本并未评测 ToolSandbox。
• 在考察复杂网页浏览与深度研究的 BrowseComp-Plus 上，哪怕它赢了对比模型，绝对分数也只有 4.5 分。这说明 0.8B 的容量天花板就摆在那里，稍微复杂一点的信息搜集依然无能为力。

端侧落地的真问题与行业暗线

我更在意的是，把模型权重留在本地，并不自动等于端到端的隐私安全。

这事很像八十年代初 PC 刚刚兴起的时候，人们欢呼计算权力终于从大型机房回到了个人书桌，但只要你的电脑还得拨号连上外部商业数据库去查账单，你的行踪就依然攥在管道商手里。今天的小模型跟当年的 PC 不完全一样，但数据流动的边界逻辑一模一样。

一个 Agent 只要开始干实事，去调用网页搜索、发邮件、查金融账户或订差旅机票，用户的请求参数和个人数据就必须离开本地设备，发往外部 API 服务商。况且 QVAC 官方文档明确提到其架构支持 P2P 算力卸载（peer-to-peer offloading），未来要把手机跑不动的重任务分流给家庭 PC 或受信任的 P2P 节点。在缺乏第三方独立安全审计的前提下，这套混合了外部工具调用与 P2P 网络的完整工作流，距离绝对私密还有很长一段路。

更何况，QVAC 自己的官方文档也警告过，部分本地小模型存在口头宣布正在搜索、实际根本没调用工具并直接编造答案的缺陷。在实验室受控沙盒里拿高分，到了真实环境面对脏乱的接口返回时还会不会犯这种老毛病，加上连带提示词注入攻击下仍有 31% 的不安全响应率（虽已比基座的 46% 大幅下降），这些都是悬在开发者头上的雷。

• 提醒.端侧 AI 与应用开发者虽然拿到了一个仅 0.81 GB（Q8）、Apache-2.0 协议的优质函数调用基座，适合试水智能家居或车载控制，但切忌轻信 H100 跑分，上线前必须自行在目标硬件上实测端侧首字延迟，并严防量化后的虚假工具调用幻觉。

说到底，加密货币巨头 Tether 借 QVAC 团队放出这么一颗高度特化的 0.8B 模型，醉翁之意不在刷榜，而在为它那套去中心化、本地优先的 QVAC SDK 与 P2P 软硬件底盘招兵买马。同时这也给阿里 Qwen、面壁 MiniCPM 和 Liquid AI 等开源小模型原厂提了个醒：Qwen3.5-0.8B 底座被第三方硬生生榨出翻倍的 Agent 性能，说明小模型预训练之后的专项蒸馏与防幻觉对齐还有大把油水可挤。

接下来最值得盯紧的只有两件事：一是社区把那份 0.81 GB 的 Q8 文件真正刷进主流 iOS 和 Android 手机后，NPU 上的真实生成速度与发热到底能不能看；二是脱离了标准测试集，它在真实工具链里到底会不会不懂装懂。什么时候端侧模型发论文敢把手机的耗电曲线和首字延迟贴在第一页，端侧 Agent 才算真正断了机房的奶。