Liquid AI 于 2026 年 10 月 22 日正式发布专为其流动基础模型设计的实时推理引擎 RIPL（Real-time Inference Pipeline）。这家由麻省理工学院研究人员创立的企业宣称，在持续的高并发峰值负载下，该引擎能将大模型的端到端完整生成响应压缩至 50 毫秒 以内。
这一成绩精准切中了当前生成式搜索与实时对话智能体的痛点，但把宣发数字等同于推理框架的全面跃升并不符合工程实际。仔细拆解官方评测能够发现，亮眼表现不仅来自推理引擎本身的调度，更是将非标准模型架构与专用算子强行绑定的产物，其中隐藏着清晰的双变量对比游戏与场景局限。
50毫秒战报背后的对比陷阱
根据官方披露的测试数据，在两套基准负载下，参数规模为 1.2B 的 LFM2.5 配合 RIPL 运行时，相较于行业标杆 Qwen3.5-0.8B 运行在开源推理框架 vLLM 上，其 p95 延迟降低了 14.4 至 28.4 倍。而在更大规模的测试中，LFM2.5-2.6B 搭配 RIPL 对比 Qwen3.5-2B 搭配 vLLM，延迟同样降低了 5.6 至 7.7 倍。
任何严谨的系统工程师都能一眼看出其中的问题。评测并未控制单一变量，而是同时更换了模型架构与推理引擎。外界无法厘清数十倍的提速究竟来自 RIPL 在算子调度上的效率，还是仅仅来自 LFM 模型内部移除了大量自注意力机制。
在测试指标的界定上，官方给出的核心数据是端到端完整响应时长，而非工业界评估服务吞吐时通用的首字生成时间与单字生成耗时。低于 50 毫秒的成绩，实际上高度依赖于极短的输入序列与简短的目标输出。当上下文长度增加或输出文本变长，这一优势的衰减幅度尚未在任何基准中公布。
改变了模型底座再谈引擎提速，更像是一场精心编排的宣发田忌赛马。
硬件兼容性方面，RIPL 选定了英伟达的计算卡阵列，支持包括 H100、H200、B200 在内的数据中心主力加速卡，并覆盖了工作站级别的 GPU RTX PRO 6000。但截至发布初期，开源社区与独立机构并未拿到可复现的评测工具包，在相同模型下对比 RIPL 与通用框架的消融实验依然缺失。
卷积与注意力的折中算术
抛开带有水分的营销对比，Liquid AI 的底座模型之所以能在特定场景压低计算时间，本质上是算子结构向延迟妥协的结果。
标准 Transformer 模型受制于注意力机制的显存瓶颈。序列越长，键值缓存占据的显存带宽就越高，计算复杂度随长度呈二次方膨胀。Liquid AI 推出的 LFM2 架构并未完全走向纯状态空间模型，而是采用了一种折中方案：由 10 个门控短卷积块 与 6 个分组查询注意力（GQA）块 组合而成。
短卷积算子处理局部文本时计算轻量，不需要维持庞大的中间缓存，从而大幅降低了显存读写瓶颈；而保留的少量 GQA 模块则用来兜底长文本的关联合成。这意味着 LFM2 并不是没有显存开销的纯线性系统，它的吞吐极限依然会被保留下来的注意力层卡住。
RIPL 真正的工程发力点，在于将这套特殊混合架构的底层计算核心，与特定英伟达芯片的张量核心进行了深度内联优化。然而，这套架构早期的神经结构搜索主要针对单批次或端侧部署设计，一旦放进数据中心面对几百路并发请求拼装大批次任务时，短卷积在硬件利用率上的劣势是否会反噬系统吞吐，仍是未解的技术疑问。
生产试水与闭源技术栈的代价
在商业化落地层面，Liquid AI 拿出的标杆案例是电商平台 Shopify 的搜索功能改造。在特定的商品检索与语义重写流程中，该方案将推理耗时压缩至 20 毫秒 以内，验证了极低延迟在信息检索流水线中的实际价值。
对于电商搜推、高频调用的人工智能代理以及车载交互这类场景，首字延迟与交互反馈直接决定转化率，毫秒级的性能提升确实能撬动商业预算。但这并不意味着企业客户可以毫无顾虑地更换技术栈。
- 风险.专用推理引擎带来的技术栈锁定，将直接削弱企业在模型迭代周期中的议价与迁移能力。
目前开源阵营的推理事实标准是 vLLM 与 llama.cpp。前者依靠连续批处理算法稳坐高并发服务端霸主地位，后者则凭借极致的量化与跨芯片移植能力渗透各类终端。尽管 Liquid AI 此前也允许模型运行在开源框架上，但此番推出专有引擎 RIPL 显然意在构筑技术护城河。
如果选择为了极限延迟而接入 RIPL，开发者不得不承担模型和引擎的双重封闭风险。一旦主流开源大模型在常规架构下通过推测解码或硬件驱动迭代追平这几十毫秒的差距，专有技术栈的维护成本就会立刻转变成企业的长期负债。