Liquid AI 于 2026 年 10 月 13 日发布端侧推理与智能体模型 LFM2.5-24B-A2B。该模型总参数量 24B,每个 Token 仅激活 2B 参数,结合门控短卷积与分组查询注意力架构,支持 131K 上下文并强制生成思维链。
官方宣称其在 Apple M5 Max 上达到 184 tok/s 解码速度,单张 NVIDIA B300 上高并发吞吐超 21K tok/s,在 AutomationBench 等工具调用评测中大幅领先更大规模的 Qwen3.6-35B-A3B。但把公关宣传拆解到工程现实后会发现:这是一颗专为高频工具调用调优的偏科芯片,激活参数虽小,端侧部署的硬件门槛却没有真正降低。
混合架构的算力账:激活 2B 与 131K 长上下文
LFM2.5-24B-A2B 延续了前代的非纯 Transformer 路线,全网共有 40 层结构,包括 30 个双门控短卷积块与 10 个 GQA 块。总参数为 24.0B,每个 Token 实际激活参数为 2.45B,通过 64 专家选 4 的超稀疏 MoE 路由运行,词表扩展至 128,000。
这套设计的初衷非常明确:让模型在单机本地执行长文本推理时,不必承担密集 Transformer 的天价算力。其预训练规模从前代的约 17T 扩充至 33T Tokens,在中间训练阶段补充了包含工具调用与多轮轨迹的数据,并通过多阶段强化学习让其适配本地 Agent 运行时。
然而,激活参数少并不等于设备门槛低。
跑分话术背后的硬件现实:32GB 内存仍是硬指标
官方给出的性能数据非常抢眼,但在阅读这些数字时需要看清测试环境。
在端侧,官方测得 Apple M5 Max 的 184 tok/s 解码速度,依赖的是 llama.cpp、Q4_K_M 量化以及仅 4K 上下文输入的前置条件,并非满血 131K 窗口下的表现。在数据中心端,单张 NVIDIA B300 达到的 21K tok/s 输出吞吐,是在 SGLang 0.5.22、BF16 精度、1024 输入与 256 输出下的高并发聚合吞吐量,代表机房服务承载力,而非单用户的即时交互延迟。
更为关键的是内存墙。MoE 模型能省下计算,却无法省下存放权重所需的物理内存。4-bit 量化后的权重文件约为 13.6 GB 至 14.5 GB,若加上推理运行时的上下文缓存与系统开销,主流的 16GB 内存设备几乎没有留存余量。要在本地顺畅运行该模型,实际配置要求落在了 32GB 统一内存 设备上。
- 提醒.MLX 部署存在环境陷阱,官方要求运行时必须安装 mlx-lm >= 0.32.0,更早版本存在能正常加载权重但专家路由分配静默失效的缺陷。
工具调用突出,但代码与通用知识偏科
在基准评测中,LFM2.5-24B-A2B 展现了鲜明的特化倾向。它在工具使用上表现强劲,但在底层知识与长链代码生成上依然存在短板。
| 评测基准 | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | 优势归属 |
|---|---|---|---|---|
| AutomationBench | 27.69 | 8.72 | 5.46 | Liquid AI 大幅领先 |
| LiveClaw | 48.09 | 38.19 | 41.25 | Liquid AI 领先 |
| BFCLv4 | 65.01 | 65.00 | 57.09 | 持平头部 |
| SWE-Bench Verified | 51.00 | 66.20 | 25.80 | Qwen 领先 15 个点 |
| GPQA Diamond | 74.42 | 83.69 | 74.90 | Qwen 领先近 10 个点 |
2B 的激活规模决定了它是一把灵巧的手术刀,而非百科全书。
在 AutomationBench 与 LiveClaw 上,LFM2.5-24B-A2B 拿到了优异成绩,但这些均为官方自测口径,Zapier 等第三方榜单由于测试集差异尚待复现。而在反映通用代码与解决真实 GitHub 议题的 SWE-Bench Verified 上,该模型得分为 51.00,明显落后于 Qwen3.6-35B-A3B 的 66.20。GPQA Diamond 的高阶常识得分同样落后近 10 个百分点。
前代模型在社区测试中曾出现多 MCP 工具解析失败、包含逗号的字符串参数被截断等工程瑕疵。新版本虽然扩充了词表并加入针对性强化学习,但在面对复杂编程与深奥推理时,依然需要依赖外部搜索与知识检索模块辅助。
商业落地层面同样有一道分水岭:该模型采用 LFM Open License v1.0 协议,企业年营收超过 1000 万美元 时需单独获取商业授权。同时,本地运行虽然保护了提示词私密性,但若 Agent 调用的外部 API 涉及联网数据传输,依然存在合规与数据出境风险。
- 结论.对于需要在本地处理大量固定格式 API 调用、高频操作内部系统且配备 32GB 设备的开发者,LFM2.5-24B-A2B 提供了高吞吐低延迟的选择;但如果核心业务是端到端自主写代码与修 Bug,更大参数的通用 MoE 依然更稳妥。
