把一个支持零样本声音克隆的实时文本转语音(TTS)模型塞进手机浏览器,到底要砍掉多少东西?Zyphra 在 2026 年 11 月给出的答案是 ZONOS3-Mini:基于 Apache 2.0 协议开源,采用稀疏 MoE 架构,总参数 800M(官方产品页标注为 886M),每 token 激活参数仅约 100M。它只用 112 张 NVIDIA H100 训练了 2.5 天,就能在 M3 MacBook Air 浏览器里跑出低于 150 ms 的首包延迟,连 Pixel 9 手机浏览器通过 WebGPU 运行也压到了 570 ms 以内。

纸面指标看着像把开源端侧 TTS 的门槛踩穿了。在 Zyphra 自建的 ZTTS2-Eval 榜单上,它以 66.2 分力压 5B 参数的 Fish Audio S2 Pro(61.7 分)和 8B 参数的 MOSS-TTS v1.5(60.2 分)拿下开源第一。但如果扒开模型卡与独立实测的底裤,这颗端侧小钢炮藏着两处硬伤:一是夺冠的 66.2 分只属于牺牲原声韵律的说话人嵌入模式,换回直接喂音频的参考片段模式立刻暴跌至 44.7 分;二是激活参数小不等于内存占用低,独立测试在 Mac 的 MLX 框架下跑初始克隆,内存峰值直接冲到了 16 GB。

15 Hz 帧率与混合骨干网怎么把算力榨干

前代模型 ZONOS2 顶着 8B 稠密参数和 86 Hz 的高帧率编解码器,每秒要自回归生成海量 token,出了服务器就寸步难行。ZONOS3-Mini 能把推理塞进浏览器,靠的不是单纯把模型做小,而是把整套语音生成的序列长度和单步计算量一起砍了一刀。

帧率压至 15 Hz 配合双路由激活,大幅削减单步计算量(示意图)
帧率压至 15 Hz 配合双路由激活,大幅削减单步计算量(示意图)
ZONOS3-Mini 极速推理的三层架构重构 第一层:音频编解码器 15 Hz 自研 ZAC-1 取代 86 Hz 前代 1 语义 + 9 声学码本 序列大幅缩短,词错率降 10 倍 第二层:混合 MoE 骨干 100M 64 专家 Top-2 路由激活 9 层 DeltaNet + 2 层全局注意力 单次可生成长达 10 分钟音频 第三层:声学与控制输出 80 ms 单卡 H100 首包延迟 (8 并发) 因果 iSTFT 实时转 44.1kHz 支持流式词级情绪与语速引导

核心功臣是自研的 ZAC-1 音频编解码器。它把帧率从前代的 86 Hz 暴力压低到 15 Hz,用 1 个语义码本加 9 个声学码本处理信息,生成每一帧后通过因果 iSTFT 头立刻渲染成 44.1 kHz 音频。每秒需要预测的步数少了五分之四以上,主干网络又用 9 层 Gated DeltaNet 线性注意力搭配 2 层全局注意力,按 64 专家 top-2 路由每次只激活约 100M 参数。这也是为什么它能在 32,768 上下文窗口里一口气生成 10 分钟音频,还能靠激活引导(Activation Steering)在流式输出时针对单个词调整语速和情绪。

但官方海报把单张 H100 上 80 ms 的首包延迟和每秒生成 457 秒音频的峰值吞吐并列放在一起,多少玩了点文字游戏。翻看 Hugging Face 模型卡就会发现,80 ms 是在 8 并发下测出的中位数,而 457 秒/秒是拉满并发测出的极限吞吐,两者根本不在同一个工况下,而且测试全程避开了计算开销更大的参考音频上下文模式。


榜首跑分的双标与 16 GB 的端侧内存暗礁

我不太买账的是 Zyphra 拿着自建评测榜单宣告胜利的姿态。裁判和运动员同属一家公司本就是大模型发榜的常态,但 ZONOS3-Mini 在不同声音克隆模式下的表现分裂得实在太厉害。

自建综合榜单虽占优,绝对音质评分却被竞品甩开一截(示意图)
自建综合榜单虽占优,绝对音质评分却被竞品甩开一截(示意图)
模型 / 评测指标ZONOS3-MiniFish Audio S2 ProMOSS-TTS v1.5Qwen3-TTS 1.7B
总参数 / 激活参数800M / ~100M5B / 未公开8B / 未公开1.7B / 未公开
开源协议Apache 2.0研究许可 (商用另授)Apache 2.0Apache 2.0
ZTTS2 综合指数66.2 (片段模式 44.7)61.760.237.7
纯净集词错率 WER7.7911.0611.0125.55
纯净集音质 UTMOS3.073.163.043.54

模型自带的 MECT-B2 说话人编码器支持两种玩法:一种是把原声压成一个 192 维的说话人嵌入向量(Speaker-embedding),另一种是直接塞入最长 60 秒的原始参考音频片段(Reference-clip)。官方榜单上拿来压倒竞品的 66.2 分,完全是在嵌入模式下跑出来的;一旦切到直接喂参考音频的模式,综合得分直接摔到 44.7 分。

压缩的是向量,丢掉的是原声里的活人呼吸与停顿。

Zyphra 官方自己的解释很诚实:嵌入模式生成的语音更自然,但参考音频片段模式才能紧密保留原声的韵律。拿掉了原声韵律的 192 维向量,本质上是把声音克隆降格成了“音色捏脸”,自然不容易出错,所以在词错率(WER 7.79)和说话人相似度(83.4)上刷出了漂亮数字。即便如此,在衡量绝对音质的纯净集 MSR-UTMOS 评分上,它依然只有 3.07 分,不仅输给 Fish S2 Pro 的 3.16 分,更被 1.7B 参数的 Qwen3-TTS(3.54 分)甩开一截。

能力分裂与部署反差:两组被折叠的实测对比 克隆模式跑分落差 (ZTTS2-Eval) 说话人嵌入模式 (丢韵律保自然) 66.2 参考音频片段模式 (保原声韵律) 44.7 不同运行时内存峰值 (独立实测) RTX 5080 运行量化 GGUF 显存 2.5 GB M5 Pro Mac mini (MLX 初始克隆) 16.0 GB

更现实的坑在端侧工程部署上。MoE 架构的特点是“省算力不省显存”,100M 激活参数只管单步推理快慢,800M 甚至 886M 的总权重加上编码器照样得进内存。独立测试报告显示,在 RTX 5080 上跑量化的 GGUF 格式确实只需要 2.4 到 2.5 GB 显存;但换到 64 GB 内存的 M5 Pro Mac mini 上用官方支持的 Apple MLX 框架跑初始声音克隆,内存峰值直接飙到了约 16 GB。如果一个开发者冲着“100M 轻量级”把它塞进 8 GB 或 16 GB 统一内存的普通 Mac 客户端里,用户第一次录完音准备克隆时大概率会直接把机器卡死。

《韩非子》里讲“一手独拍,虽疾无声”,模型结构瘦身得再快,运行时框架和跨语种数据接不住,端侧落地照样响不起来。这很像早期 PC 声卡把波表合成器硬压进几兆内存的年代,为了省容量把采样率砍到极致,听个响没问题,真要还原乐器细节立刻露怯——当然今天的情况不完全一样,神经网络编解码器靠语义码本保住了可懂度,但底层用激进压缩换实时性的利益账本分毫未变。

  • 风险.第三方基准追踪库已曝出早期工程缺陷,包括在法语和西班牙语生成中使用英语语音前缀时表现脆弱,以及 Windows 平台存在构建与编码问题,多语种桌面应用切勿盲目直接上生产环境。

对于独立游戏开发者和做端侧语音助手的团队,ZONOS3-Mini 最值钱的其实是那张 Apache 2.0 许可证和词级情绪控制能力,毕竟同梯队的 Fish Audio S2 Pro 商用还得单独掏钱买授权。如果你的场景只需要固定几个预设的 192 维音色向量、在浏览器或 GGUF 环境里低成本实时说话,它现在就能替你省下一大笔云端 API 账单;但如果你指望用户随手传一段语音就能完美复刻语气神态,或者想在低配 Mac 上无感运行 MLX 原生服务,不妨先看看 Zyphra 接下来怎么填平那 44.7 分的片段克隆大坑和 16 GB 的内存窟窿。