2026 年 11 月 16 日,Hugging Face 宣布把 Inference Providers 的语言模型请求交给 OpenRouter 选路。原有 API 和 Hugging Face 令牌可以继续用,供应商遇到故障时还能自动换一家。变化藏在账单里:经这条路径调用语言模型,团队得由 Hugging Face 结算,自带供应商 API 密钥的入口取消了。
同一个模型,后端可以临时换
默认路由综合有效价格、速度和可靠性。加 :fastest 会选输出吞吐最高的提供商,想让第一个 token 更快出现,还得单独看首 token 延迟。加 :cheapest 走最低价,写明提供商后缀则会固定后端,也就放弃了自动故障切换。

同一段对话还可以复用 X-HF-Session-Id,让路由优先考虑已经缓存提示内容的提供商。直接发 HTTP 请求时可以自行设置,Hugging Face 的 Python 和 JavaScript 客户端会自动处理。
<svg viewBox='0 0 720 222' width='100%' height='222' role='img' aria-label='语言模型请求的选路与结算'>
<rect x='1' y='1' width='718' height='220' rx='16' fill='#fbf9f4' stroke='#e2dccf'/>
<text x='32' y='44' font-size='20' font-weight='700' fill='#b25a3a'>语言模型请求怎么走</text>
<line x1='32' y1='61' x2='688' y2='61' stroke='#e2dccf'/>
<rect x='32' y='91' width='192' height='99' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<rect x='264' y='91' width='192' height='99' rx='10' fill='#fbf9f4' stroke='#b25a3a'/>
<rect x='496' y='91' width='192' height='99' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<line x1='232' y1='140' x2='252' y2='140' stroke='#e2dccf'/>
<polygon points='248,136 256,140 248,144' fill='#7a7266'/>
<line x1='464' y1='140' x2='484' y2='140' stroke='#e2dccf'/>
<polygon points='480,136 488,140 480,144' fill='#7a7266'/>
<text x='128' y='132' text-anchor='middle' font-size='18' font-weight='700' fill='#2c2822'>原有接口</text>
<text x='128' y='159' text-anchor='middle' font-size='14' fill='#7a7266'>平台统一结算</text>
<text x='360' y='132' text-anchor='middle' font-size='18' font-weight='700' fill='#2c2822'>自动选路</text>
<text x='360' y='159' text-anchor='middle' font-size='14' fill='#7a7266'>兼顾价格与性能</text>
<text x='592' y='132' text-anchor='middle' font-size='18' font-weight='700' fill='#2c2822'>推理提供商</text>
<text x='592' y='159' text-anchor='middle' font-size='14' fill='#7a7266'>默认故障可切换</text>
</svg>
少撞容量墙,每千次请求却贵了
OpenRouter 用一周做了切换实验,在配对的三小时区块里交替启用新旧路由,剔除每次切换后一小时的预热数据。实验覆盖所选开源模型,累计超过 2400 万次请求和 1030 亿输入 token。平台另行公布的月处理量超过 800 万亿 token、用户超过 1000 万,这两项描述的是整个平台的规模。

OpenRouter 自报的结果是,中位首 token 时间缩短 16.9%,中位输出吞吐提升 16.3%。至少遇到一次容量相关 429 的请求减少 46%,每千次请求成本增加 6%。这些结果尚无独立审计,适用范围也取决于模型、时段和负载。
<svg viewBox='0 0 720 222' width='100%' height='222' role='img' aria-label='一周路由实验的四项指标'>
<rect x='1' y='1' width='718' height='220' rx='16' fill='#fbf9f4' stroke='#e2dccf'/>
<text x='32' y='44' font-size='20' font-weight='700' fill='#b25a3a'>一周实验的性能与成本</text>
<line x1='32' y1='61' x2='688' y2='61' stroke='#e2dccf'/>
<rect x='32' y='91' width='152' height='99' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<rect x='200' y='91' width='152' height='99' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<rect x='368' y='91' width='152' height='99' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<rect x='536' y='91' width='152' height='99' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<text x='108' y='136' text-anchor='middle' font-size='32' font-weight='700' fill='#2c2822'>−16.9%</text>
<text x='276' y='136' text-anchor='middle' font-size='32' font-weight='700' fill='#2c2822'>+16.3%</text>
<text x='444' y='136' text-anchor='middle' font-size='32' font-weight='700' fill='#2c2822'>−46%</text>
<text x='612' y='136' text-anchor='middle' font-size='32' font-weight='700' fill='#c0392b'>+6%</text>
<text x='108' y='165' text-anchor='middle' font-size='14' fill='#7a7266'>首 token 等待</text>
<text x='276' y='165' text-anchor='middle' font-size='14' fill='#7a7266'>输出吞吐</text>
<text x='444' y='165' text-anchor='middle' font-size='14' fill='#7a7266'>遇到容量报错</text>
<text x='612' y='165' text-anchor='middle' font-size='14' fill='#7a7266'>每千次请求成本</text>
</svg>
这笔钱花得值不值,要看失败一次的代价。在线产品可能愿意为更少的中断付费。能排队、能重跑的批处理,更该按成功交付的任务算成本,连同重试和缓存折扣一起算。
不加价,合同价也得重算
Hugging Face 表示按提供商价格原价转收。PRO 每月有 2 美元额度,Team 和 Enterprise 每席位有 2 美元额度。图像、视频和音频仍走原有推理路径,其中图像和视频继续支持自带提供商密钥。
个人开发者少维护一套故障切换逻辑,省下的工夫很实在。企业团队更该查清合同价和账户额度能否沿用。自带密钥的路径一撤,原来挂在提供商账户下的折扣、额度和密钥管理流程,都得重新核对。依赖这些安排的团队仍可直连提供商,再把自建网关的维护成本算进去。
即便报价完全一样,选路也能决定谁拿到订单。Hugging Face 11 月 18 日的目录快照里,DeepSeek V4.1 Flash 在 Together、Baseten 和 Parasail 的输入、输出标价相同,每百万 token 分别为 0.30 和 1.20 美元。三家的目录延迟依次是 0.20、0.61、0.60 秒,吞吐依次是 236、156、185 token/秒。这是 Hugging Face 的目录测量,长期表现还得用自己的请求验证。
默认选路开始左右供应商的订单
Hugging Face 给出的口径里,OpenRouter 最常用的 50 个模型中,开放权重模型的周 token 份额从 2025 年 10 月的 26.8% 升到 2026 年 9 月底的 71.7%,低于同年 7 月的 77.5% 高点。开放权重模型在这个平台上的均价约为闭源模型的四分之一。这个口径适合看用量,企业生产部署、任务质量和收入各有各的账。

早期铁路掌握运输线路,货主能否方便地换承运方,很大程度上取决于线路怎样接。推理服务可以直连,换后端也容易得多。但当开发者沿用同一个接口,默认选路就能把同一个模型的订单分给不同提供商。英伟达收购 Hugging Face 的交易仍在接受美国司法部审查,Stripe 也已同意收购 OpenRouter。两笔交易让选路规则能否接受审计变得更重要。
Hugging Face 计划开放 OpenRouter 账户关联。我更在意上线后,团队能否从请求记录里查到实际后端、切换原因和最终费用。代码越省事,账单越得让人查得明白。
