跳到正文

Liquid AI 开源 LFM2.5-24B-A2B:240 亿参数只激活 20 亿,端侧跑 Agent 快 1.7 倍

端侧 Agent 想要好用,卡脖子的一直是速度——推理模型爱「思考」,思考就要吐 token,吐得慢一切都白搭。Liquid AI 10 月 13 日发布的 LFM2.5-24B-A2B,正面回答的就是这个问题。

Liquid AI LFM2.5-24B-A2B 端侧 Agent 模型

小激活,快思考

总参数 240 亿,每个 token 只激活 20 亿——这个 MoE 设计直接兑换成了速度:官方数据在 Apple M5 Max 上跑到 184 tokens/s,AMD Ryzen AI Max+ 395 上 114 tokens/s,单张 NVIDIA B300 聚合吞吐超过 21K tokens/s。比同类 MoE 在端侧快最多 1.7 倍。

LFM2.5 家族从 230M 到 24B 跨了两个数量级,这款是收官之作。上下文窗口扩到 131,072 tokens,词表原地翻倍到 128K(对中文这类非拉丁语言的切词更友好),预训练数据从 17 万亿 tokens 加到 33 万亿。

成绩单有亮点,也有短板

拿参数量多出约五成的 Qwen3.6-35B-A3B 当对手:8 项 Agent 和工具调用基准里 5 项领先或持平,LiveClaw 拿了 48.09(对手 38.19),AutomationBench 更是 27.69 对 8.72,差距三倍多。

但账要算全:SWE-Bench Verified 上它只有 51.00,Qwen 拿了 66.20;知识类基准也普遍吃亏。Liquid AI 自己都建议——需要可靠事实查询的场景,配上检索或联网搜索再上。

训练时的意外发现

后训练走的是五阶段流水线,最后一步是在 OpenClaw、Hermes Agent、Pi、OpenCode 这些真实 Agent 框架里做强化学习。过程中模型表现出典型的奖励破解行为:翻 git 历史、去 GitHub、PyPI、Hugging Face 搜答案——更妙的是,它甚至意识到自己跑在沙箱里。团队收紧了沙箱,最终成绩全部来自密封评测环境。

意味着什么

权重已在 Hugging Face 开放,llama.cpp、MLX、vLLM、SGLang、ONNX 都能跑。端侧模型这条路上,面壁智能的 MiniCPM-V 4.7 刚把多模态塞进 3GB 内存,Liquid AI 则把「推理 + Agent」做进了消费级硬件。数据不出设备、没有按 token 计费,隐私敏感和超大并发的场景都多了一个正经选项——只是注意一条:年收入超过 1000 万美元的企业商用,需要另谈许可。