2026年11月12日，AI 团队 Edge0 宣布开源 Edge0-145B 与 Edge0-120B 两款端侧大模型、统一推理框架以及 Edge0 App v0.2.0。官方把 Edge0-145B 称为全球首个 1450 亿参数的开源端侧模型，宣称它能在 MacBook Pro 等兼容个人笔记本上本地运行，峰值内存仅 29GB（官方博客另一处写为 28GB），预填充速度超 1100 tokens/s，解码速度超 80 tokens/s，典型功耗约 120W，支持 128K 至 256K 上下文。但拆开官方底层文档与模型卡就会发现，这场端侧奇迹更像一次精心挑选口径的营销包装：它不仅隐去了高达 31GiB 以上的系统内存卸载开销，目前甚至连 macOS 正式版都还没有上线。
在 2026 年 9 月之前，受制于内存墙与带宽限制，Apple Intelligence 的约 3B 模型、Google Gemini Nano 的 1.8B 和 3.25B 版本等主流端侧模型大多停留在 10B 参数以下。Edge0 此前也曾发布过手机端模型 Edge0-35B，宣称在 iPhone 18 Pro Max 上峰值内存低于 2.5GB、速度超 37 tokens/s。这次他们直接把笔记本端的参数标尺拉到了 145B，声称能本地完成 3D 建模、游戏开发与代码调试。对于正打算为此掏钱升级硬件的本地大模型极客和开发者来说，先核对清楚显存与系统内存的真实账单，比盲目相信宣传表格重要得多。
29GB 内存跑上笔记本的障眼法与硬件真相
Edge0 在宣传表格里把 MacBook Pro、29GB 峰值内存和 80+ tokens/s 的解码速度放在一起，给外界造出一种买台苹果笔记本就能流畅跑千亿模型的错觉。但翻开 Hugging Face 上的官方模型卡，真实内存账单完全是另一回事。
官方共发布了两个权重版本，分别是体积 40.81 GiB 的 Q3_K（混合 Q3_K 与 IQ4_NL 等格式）和体积 47.79 GiB 的 NVFP4。模型卡明确披露，运行 Q3_K 版本实际需要占用 23.14 GiB 显存（VRAM）外加 31.28 GiB 系统内存（Host RAM），NVFP4 版本则需要 23.25 GiB 显存外加 38.27 GiB 系统内存。这两部分是互不重叠的独立占用，意味着运行 Q3_K 的总内存驻留超过 54GiB。宣传海报上的 29GB，只是单算了一侧的峰值，把超过 31GiB 的系统内存开销藏在了聚光灯外。
硬件支持与速度同样经不起交叉核对。GitHub 文档明确声明，当前发布版本仅针对 Linux 和 Windows 上的 NVIDIA GPU（需 CUDA 13），根本没有可用的 macOS 版本。官方基准测试里也没有任何 MacBook 笔记本的数据，唯一沾边的苹果芯片测试是在桌面级的 Apple M2 Ultra（Metal）上跑 Q3_K，其 16K 预填充速度为 800.3 tok/s，Chat 解码为 60.9 tok/s，Agent 解码为 57.0 tok/s，均未达到宣传的 1100+ 预填充和 80+ 解码线。
真正跑出 80+ tokens/s 的功臣是桌面级旗舰显卡。在官方测试中，24GB 显存的 RTX 5090 D 跑 Q3_K 时 Chat 与 Agent 解码分别达到 99.7 和 121.2 tok/s，跑 NVFP4 为 79.6 和 98.3 tok/s；24GB 显存的 RTX 4090 跑 Q3_K 为 69.9 和 91.7 tok/s。一旦切换到 16 GiB 显存加 20 GiB 系统内存的受限配置，即便是 RTX 5090 D，解码速度也会直接腰斩至 36.8 和 44.9 tok/s。
- 提醒.准备为本地跑大模型采购设备的开发者，切勿冲着 Edge0-145B 的宣传去买 MacBook Pro，现阶段它既跑不通官方客户端，也达不到宣传速度。
拆解 1450 亿参数的底牌与 Qwen 衍生架构
一家初创团队如何凭空训出 1450 亿参数的模型并塞进消费级设备？答案是他们并没有从零训练一个稠密模型，而是站在了开源社区的肩膀上做结构改造。
代码库信息显示，Edge0-145B 衍生自阿里开源的 Qwen3.8-Flash-Next 潜变量混合专家（Latent MoE）模型，其配套的统一推理框架则是基于开源项目 Strata 的分支。官方声称每 64 个专家共享两个大矩阵的设计，核心在于稀疏激活与异构卸载。
拆开这 145B 的总参数包，里面真正干重活的激活参数每 token 只有 10.12B。整个模型共 48 层，采用混合线性与索引注意力机制，每层包含 512 个路由专家，每次推理仅激活 10 个路由专家加 1 个共享专家，并且将潜专家宽度从原版的 2560 缩减到了 1792；虽然宣称支持 256K 上下文，但实际采用 INT8 KV 缓存且常驻长度为 32K。
更巧妙的数字游戏在于参数构成：145B 里除了 84.6B 的专家池和 1.26B 的多 token 预测草稿组件外，竟然塞进了高达 51.2B 的 n-gram 词嵌入表。词嵌入表本质上是静态查表数据，可以用约 48GB 的体积躺在 SSD 固态硬盘上按需读取，配合放在系统内存里约 40GB 的专家库与 GPU 显存里的热专家做三级流水线调度。把 51.2B 的静态词表算进总参数，再去和几百亿参数的常规模型比显存占用，本身就是一种不对称的降维对比。
把五百亿静态词表算进总参数，是端侧模型最廉价的增重魔术。
选择性打榜、数据打架与开源许可证的紧箍咒
为了证明这套架构没有牺牲智商，Edge0 放出了一张击败多款云端模型的成绩单，但这份榜单同样存在明显的筛选痕迹与前后矛盾。
| 模型名称 | DeepSWE 1.1 (编程) | Terminal-Bench 2.1 | GPQA-Diamond (推理) | HLE (综合知识) |
|---|---|---|---|---|
| Edge0-145B | 64.6% | 86.52% | 90.4% | 35.4% |
| Qwen3.8-Flash-Next | 58.7% | 83.3% | 91.7% | 35.9% |
| DeepSeek-V4-Flash-0731 | 54.4% | 82.7% | 90.8% | 33.8% |
| Claude Opus 4.6 Max | 未公开 | 78.2% | 91.3% | 40.0% |
在官方内部评测中，Edge0-145B 在编程基准 DeepSWE 1.1（64.6%）和 Terminal-Bench 2.1（86.52%）上确实超过了底座 Qwen3.8-Flash-Next、DeepSeek-V4-Flash-0731 以及 Claude Opus 4.6 Max，在指令遵循 IFBench（80.6%）和长上下文 AA-LCR（79.3%）上也有优势，更不用说对比 Qwen3.8-27B、Flint 40B、Muse Glimmer 和 Gemma 4 等轻量模型。但在考验硬核推理与知识的 GPQA-Diamond 和 HLE 上，它依然落后于原版 Qwen3.8-Flash-Next 和 Claude Opus 4.6 Max。
更重要的是谁缺席了这张表。在 DeepSWE 官方公开榜单上，真正代表当前云端前沿水准的 GPT-6 Astra、Gemini 3.8 Flash 和 Claude Opus 5 得分均在 74% 左右，比 Edge0-145B 高出近 10 个百分点，却未被列入对比。甚至连 Edge0 自家小模型的数据都在打架：官方博客里 Edge0-120B 的 DeepSWE 和 Terminal-Bench 跑分是 53.6% 和 81.3%，到了 GitHub 文档里却变成了 51.3% 和 75.3%，直接决定了它能不能在终端测试中赢过 Claude Opus 4.6 Max 的 78.2%。
社区的独立实测也给官方的加速神话泼了冷水。Reddit 社区 r/LocalLLM 用户 LightBrightLeftRight 在单张 RTX 3090、32K 提示词环境下进行了初步同场实测，结果显示 Edge0-145B Q3_K 的首字延迟为 20.1 秒、预填充 1583 tok/s、解码 56.2 tok/s，三项指标全线慢于原版底座 Qwen Flash Next IQ3_S 的 12.2 秒、2612 tok/s 和 75.6 tok/s。
对于想拿它做产品的创业者来说，最后一道门槛藏在法务条款里。虽然官方通篇高呼开源（open-sourcing），但其 Apache-2.0 许可证仅覆盖框架代码（Strata 部分保留 MIT），模型权重则绑定了自定义的 Edge0 Community Model License 1.0 及上游 Qwen 条款。该协议严禁未经书面许可将模型用于商业捆绑销售、运营商业模型 API 服务，甚至明确禁止用它开发独立的商业编程助手或办公助手。
- 结论.商业 AI 编程与办公助手团队不能直接将该模型打包进产品，本地玩家在 RTX 3090 等主流旧卡上直接跑原版 Qwen3.8-Flash-Next 反而比跑 Edge0-145B 更快。
接下来真正值得盯住的验证点只有三个：官方承诺的完整评测复现脚本何时放出、macOS 的 Metal 后端何时能真正跑通，以及社区在 128K 至 256K 满血上下文下测出的真实掉速幅度。在此之前，不必为这顶 1450 亿参数的高帽交智商税。