Liquid AI 于 2026 年 10 月 13 日发布端侧推理与智能体模型 LFM2.5-24B-A2B。该模型总参数量 24B,每个 Token 仅激活 2B 参数,结合门控短卷积与分组查询注意力架构,支持 131K 上下文并强制生成思维链。

官方宣称其在 Apple M5 Max 上达到 184 tok/s 解码速度,单张 NVIDIA B300 上高并发吞吐超 21K tok/s,在 AutomationBench 等工具调用评测中大幅领先更大规模的 Qwen3.6-35B-A3B。但把公关宣传拆解到工程现实后会发现:这是一颗专为高频工具调用调优的偏科芯片,激活参数虽小,端侧部署的硬件门槛却没有真正降低。

混合架构的算力账:激活 2B 与 131K 长上下文

LFM2.5-24B-A2B 延续了前代的非纯 Transformer 路线,全网共有 40 层结构,包括 30 个双门控短卷积块与 10 个 GQA 块。总参数为 24.0B,每个 Token 实际激活参数为 2.45B,通过 64 专家选 4 的超稀疏 MoE 路由运行,词表扩展至 128,000。

LFM2.5-24B-A2B 混合层架构拆解 30 层短卷积块 双门控短卷积处理 大幅压低端侧计算负载 线性复杂度序列处理 10 层 GQA 注意力 分组查询注意力机制 维持跨文本全局关联 131K 满血上下文窗口 64 选 4 稀疏 MoE 总参数量 24.0B 每 Token 仅激活 2.45B 强制输出思维链推理

这套设计的初衷非常明确:让模型在单机本地执行长文本推理时,不必承担密集 Transformer 的天价算力。其预训练规模从前代的约 17T 扩充至 33T Tokens,在中间训练阶段补充了包含工具调用与多轮轨迹的数据,并通过多阶段强化学习让其适配本地 Agent 运行时。

然而,激活参数少并不等于设备门槛低。

跑分话术背后的硬件现实:32GB 内存仍是硬指标

官方给出的性能数据非常抢眼,但在阅读这些数字时需要看清测试环境。

在端侧,官方测得 Apple M5 Max 的 184 tok/s 解码速度,依赖的是 llama.cpp、Q4_K_M 量化以及仅 4K 上下文输入的前置条件,并非满血 131K 窗口下的表现。在数据中心端,单张 NVIDIA B300 达到的 21K tok/s 输出吞吐,是在 SGLang 0.5.22、BF16 精度、1024 输入与 256 输出下的高并发聚合吞吐量,代表机房服务承载力,而非单用户的即时交互延迟。

LFM2.5-24B-A2B 端侧部署物理内存开销 4-bit 量化 (MLX/Q4_0) 13.6 GB Q4_K_M 中精度量化 14.5 GB BF16 完整原始权重 48.0 GB

更为关键的是内存墙。MoE 模型能省下计算,却无法省下存放权重所需的物理内存。4-bit 量化后的权重文件约为 13.6 GB 至 14.5 GB,若加上推理运行时的上下文缓存与系统开销,主流的 16GB 内存设备几乎没有留存余量。要在本地顺畅运行该模型,实际配置要求落在了 32GB 统一内存 设备上。

  • 提醒.MLX 部署存在环境陷阱,官方要求运行时必须安装 mlx-lm >= 0.32.0,更早版本存在能正常加载权重但专家路由分配静默失效的缺陷。

工具调用突出,但代码与通用知识偏科

在基准评测中,LFM2.5-24B-A2B 展现了鲜明的特化倾向。它在工具使用上表现强劲,但在底层知识与长链代码生成上依然存在短板。

评测基准LFM2.5-24B-A2BQwen3.6-35B-A3BGemma-4-26B-A4B-it优势归属
AutomationBench27.698.725.46Liquid AI 大幅领先
LiveClaw48.0938.1941.25Liquid AI 领先
BFCLv465.0165.0057.09持平头部
SWE-Bench Verified51.0066.2025.80Qwen 领先 15 个点
GPQA Diamond74.4283.6974.90Qwen 领先近 10 个点
2B 的激活规模决定了它是一把灵巧的手术刀,而非百科全书。

在 AutomationBench 与 LiveClaw 上,LFM2.5-24B-A2B 拿到了优异成绩,但这些均为官方自测口径,Zapier 等第三方榜单由于测试集差异尚待复现。而在反映通用代码与解决真实 GitHub 议题的 SWE-Bench Verified 上,该模型得分为 51.00,明显落后于 Qwen3.6-35B-A3B 的 66.20。GPQA Diamond 的高阶常识得分同样落后近 10 个百分点。

前代模型在社区测试中曾出现多 MCP 工具解析失败、包含逗号的字符串参数被截断等工程瑕疵。新版本虽然扩充了词表并加入针对性强化学习,但在面对复杂编程与深奥推理时,依然需要依赖外部搜索与知识检索模块辅助。

商业落地层面同样有一道分水岭:该模型采用 LFM Open License v1.0 协议,企业年营收超过 1000 万美元 时需单独获取商业授权。同时,本地运行虽然保护了提示词私密性,但若 Agent 调用的外部 API 涉及联网数据传输,依然存在合规与数据出境风险。

  • 结论.对于需要在本地处理大量固定格式 API 调用、高频操作内部系统且配备 32GB 设备的开发者,LFM2.5-24B-A2B 提供了高吞吐低延迟的选择;但如果核心业务是端到端自主写代码与修 Bug,更大参数的通用 MoE 依然更稳妥。