【标题】Sarvam Token Factory 上线:印度 8 款开源模型的本地化推理布局与实测
【摘要】Sarvam AI 发布 Token Factory 平台,通过本地 GPU 集群提供低延迟推理服务。此举不仅是印度主权 AI 的商业化落地,更揭示了地理位置在解决模型推理延迟上的直接红利。
【正文】
当全球 AI 巨头还在竞逐模型参数规模时,印度的一家公司 Sarvam AI 把目光投向了物理距离。11 月 7 日,他们推出的 Sarvam Token Factory 算不上一次模型迭代,却是一次基础设施层面的地理迁徙:它为印度境内用户提供了直接托管在孟买的推理 API。
在全球算力霸权之下,Sarvam 的逻辑很简单——既然数据合规和跨国网络延迟是金融、政务等关键行业使用 AI 的拦路虎,那干脆把 GPU 集群搬进家门口。
性能的地理红利
对于大多数开发者而言,选择云端推理厂商往往只看吞吐量(Throughput),但在对实时性要求极高的场景,地理物理距离造成的 TTFT(首字延迟)才是决定用户体验的变量。

根据 Sarvam 在孟买地区的基准测试,Token Factory 在处理 GLM-5.3 等模型时,1K token 的首次响应延迟可压缩至 0.68s,而远在海外的 Together AI 或 Fireworks AI 则通常徘徊在 0.8s 以上。
- 结论.地理位置带来的物理延迟节省是 Sarvam 最硬的招牌,这对短文本对话场景极具杀伤力。
- 提醒.在流式生成吞吐量上,Sarvam 仍落后于国际成熟厂商,这意味着它更适合高频次、短反馈的业务,而非长文本分析。
合规协议的隐形门槛
Sarvam 支持包括 Sarvam 105B、DeepSeek V4.1 Flash 等在内的 8 款模型,并采用了标准的 OpenAI 兼容接口,降低了企业迁移成本。然而,所谓的主权 AI 和零数据保留并不是万能的免费午餐。

虽然 Token Factory 实现了本地托管,但数据隐私并非默认选项。用户若想享受严格的零保留协议,通常需要通过特定的合同框架完成企业级签署。这意味着,对于绝大多数通过 API 注册的散客开发者,其数据流转依然遵循标准的基础设施策略。
| 项目 | 状态 / 内容 |
|---|---|
| API 接口 | 兼容 OpenAI 标准 |
| 计费单位 | 卢比/百万 tokens |
| 税务负担 | 额外 18% GST |
| 数据保留 | 需额外合同协议 |
卢比计价的野心
定价策略是 Sarvam 区别于全球云服务商的另一张牌。使用卢比(INR)直接定价,不仅规避了汇率波动的不可控,更符合印度本土企业的财务结算习惯。例如,DeepSeek V4.1 Flash 的定价体系非常直观,但由于官网定价存在微小变动,企业用户最终成本仍需参考实时账户生效数据。

这种策略本质上是在重组区域市场的成本结构。通过利用 NVIDIA H100 和 B200 等本地算力集群,Sarvam 试图在国际大厂高昂的美元出海成本与本土合规需求之间,强行撕开一道缝隙。
Sarvam 的这步棋,其实是在回答一个地缘经济的问题:当算力成为基础设施,谁能离本地市场更近,谁就能掌握商业主导权。这不只是模型性能的竞争,更是一场关于数据管辖权与成本效率的精细化博弈。对于 Sarvam 而言,能否真正吃透政务和金融领域的大客户,才是这场主权 AI 实验能否收场的关键。
【锐评】主权 AI 的本质是算力地理权的回归,性能只是入场券,合规才是真正的护城河。
