语音合成技术正从比拼音质的云端军备竞赛,转向毫秒级响应的端侧工程割喉战。Gradium 于 2026 年 10 月 20 日正式发布超轻量端侧语音合成模型 Phonon 31M,配套推出 Rust 推理运行时 xn-ptts v0.4.0。该模型在量化后仅占用 64.5 MB 存储,在苹果 M5 芯片上实现了惊人的 6.9 毫秒首包音频延迟。

表面上看,这是一次小参数击败大体积开源标杆的技术胜利。但剥开极速跑分的外衣,Phonon 31M 的本质并非单纯的算法奇迹,而是一次工程架构的时间差利用,以及一套精密的商业引流组合拳。

64.5 MB 的端侧真身与蒸馏底色

在 Phonon 31M 之前,端侧语音合成长期在轻量与自然度之间拉锯。轻巧如 Piper 虽能轻易部署在边缘设备,但机械音感明显;Kokoro-82M 凭借细腻音色成为开源中枢,却受制于默认 PyTorch 环境下的高延迟和整句生成逻辑。Phonon 31M 则把核心参数量死死压在 3100 万参数,其 Q8 GGUF 量化版本仅为 64.5 MB,输出单声道 24 kHz 流式音频。

64.5 MB 模型部署于树莓派硬件单板,实现极低延迟音频输出
64.5 MB 模型部署于树莓派硬件单板,实现极低延迟音频输出

这一体积并不包含独立的音频编解码器。Gradium 团队在多张 NVIDIA H100 上,使用自研的高阶 Phonon 教师模型进行知识蒸馏,技术骨干直接承袭 Kyutai 的 Pocket TTS 与 Mimi codec 架构。

Phonon 31M 推理管线与轻量化路径 文本输入与分词 文本 Tokenizer 分句长文本切片 跨句韵律易截断 Phonon 31M 核心 Kyutai Pocket TTS H100 教师模型蒸馏 Q8 仅 64.5 MB 流式声学解码 Mimi Codec Rust 运行时 xn-ptts 逐帧输出无等待 端侧音频输出 单声道 24 kHz 首包仅 6.9 ms 树莓派 38 ms

官方测试显示,在搭载 M5 芯片的 MacBook Air 上仅启用 4 线程 CPU,Phonon 31M 的首包音频延迟压低至 6.9 毫秒,运行速度达到 29.9 倍实时速率;在性能受限的树莓派 5 上,依然跑出了 38 毫秒首包延迟与 3.7 倍实时输出。在 468 位评分者参与的 8290 票双盲评测中,Phonon 31M 拿下了 2098 的 Elo 评分,略高于 Kokoro 的 2043 分。

在标准测试文本中,其词错误率为 0.51%,与 Kokoro 的 0.45% 处于同一水准。而在 500 句高难度生僻长句测试中,Phonon 31M 将错误率控制在 1.70%,明显低于 Kokoro 的 3.50%,证明了蒸馏方案在难词发音稳定性上的收益。

跑分悬殊背后的评测口径与硬件绑定

官方宣传中最抓人眼球的指标,是 Phonon 31M 的 6.9 毫秒对阵 Kokoro 的 517 毫秒。然而这近百倍的延迟鸿沟,并不是纯粹的模型效率差异,而是测试口径的非对称竞争。

端侧推理深度绑定特定芯片,跨平台适配极易出现报错
端侧推理深度绑定特定芯片,跨平台适配极易出现报错
这不是纯粹的模型效率碾压,而是一场逐帧流式输出对整句生成的口径突袭。

Kokoro 默认配置依托 PyTorch 进行整句推理,必须等全句合成完毕后才向外吐出首个音频包。Phonon 31M 则自底层起便将 Mimi codec 设计为逐帧流式输出,只要首个切片生成即刻推流。如果将 Kokoro 迁移至专门经过优化的 ONNX 流式管线中,两者差距将大幅缩减。

官方首包延迟(TTFA)对比背后的机制差异 Phonon 31M(流式输出) 6.9 ms M5 芯片 4 线程 CPU 首包 首帧即吐:逐帧解压,首包音频无需等待后续文本 Kokoro(整句生成) 517 ms 默认 PyTorch 整句返回 全句等待:必须完成整句声学计算后方可推流

移动端的惊艳表现同样附带严苛的前置条件。宣传中 iPhone 16 Pro 达到的 9 毫秒首字延迟与 22 倍实时,完全依附于苹果 Neural Engine 硬件加速,纯 CPU 模式下难以达到这一水准。

而在 Android 生态中,这套 Rust 运行时目前深度绑定高通骁龙 NPU,需要针对特定系统级芯片单独编译,并且缺乏自动降级机制。一旦遇到联发科或低端芯片,推理进程极易出现兼容性报错,端侧通用适配仍显粗糙。


免费开源外衣下的商业阳谋与合规暗坑

比起工程上的巧思,更值得开发者警惕的是 Gradium 在授权许可上的精准切割。

英文版本开源引流,多语言扩展则受阻于非商用商业壁垒(示意图)
英文版本开源引流,多语言扩展则受阻于非商用商业壁垒(示意图)

Phonon 31M 的英文版权重、分词器及声音配置文件确实挂着 Apache 2.0 许可证。但在商业应用更为关键的 40M 多语言系列中,支持德语、法语、西班牙语、葡萄牙语的模型以及全语言版本,被全部收紧至 CC BY-NC 4.0 非商用许可证。

模型版本参数规模支持语言开源许可协议商业化可用性
Phonon 31M Base3100 万仅英文Apache 2.0允许直接商用
Phonon 40M Multilingual4000 万德 / 法 / 西 / 葡CC BY-NC 4.0严禁商用
Phonon Full Languages4000 万以上全语言覆盖CC BY-NC 4.0严禁商用 / 需商业授权

这是一种典型的引流策略。用 31M 英文版的极致低延迟和宽松协议吸引开源社区与边缘语音开发者,一旦团队尝试将方案扩展到多语言跨境产品,就会立即撞上商业授权的付费墙。

  • 风险.Gradium 在模型卡中彻底隐藏了数据来源,未披露训练语料名称、授权状态、训练小时数与说话人构成。由于模型基于大体量教师模型蒸馏,一旦原始语料库涉及版权争议,采用 Apache 2.0 权重的商用企业依然面临追责隐患。

此外,架构层面的妥协也限制了其适用面。为了保证端侧极速吐字,Phonon 31M 在处理长文本时强制执行分句截断。在逐句独立合成下,句与句之间的气口和情绪起伏被生硬切断,使得该模型适用于实时对话交互助手,但在有声书或长文朗读等依赖全局韵律的场景中体验大打折扣。

对于边缘 AI 开发者,Phonon 31M 确实提供了一个将英文首包音频延迟压缩到 10 毫秒以内的免费工具。但在决定替换原有的 Kokoro 或 Piper 产线前,团队需要算清这笔账:你的产品是否仅需要英文输出,你的目标设备是否配有受支持的 NPU,以及你的法务团队能否接受一个训练集完全黑盒的商用权重。端侧合成的参数壁垒已经被打破,但工程落地的免责清单才刚刚展开。