Thinking Machines在Hugging Face上放出了旗下首个开放权重旗舰模型Inkling:975B总参数、41B激活参数的稀疏MoE架构,原生吃图像、文本、音频三种输入,上下文窗口拉到1M,训练用了45万亿token。听起来是一次教科书级的技术秀肌肉,但翻到模型卡最后一段才发现,官方自己都承认这不是目前最强的模型——这次发布真正的看点,反而是把“开放权重”和“普通人能用”之间的距离,摆得比以往任何一次都清楚。
开放的是许可证,不是门槛。
架构里的花活,省的是推理成本
Inkling是66层解码器,256个路由专家里每个token选6个,另加2个常驻共享专家——这套设计本质上是想让模型既有大参数的知识容量,又不必每次推理都把975B参数全算一遍。位置编码上它没用主流的RoPE,改用相对注意力,让每层自己在注意力打分里学位置关系;层与层之间按5:1比例交替用滑窗和全局注意力,再配一层短卷积SConv处理局部上下文,把长上下文的计算成本压下来。这套组合拳和DeepSeek、Qwen、GLM等同行走的MoE路线是一个方向:参数堆得起,但推理的账不能算不过来。训练端用的是英伟达GB300 NVL72系统,后训练阶段跑了超过3000万次异步强化学习rollout——这个粒度的细节,同类模型很少公开到这个程度。
官方自认“不是最强”,社区已经把GLM-5.2搬出来对比
比架构更值得琢磨的是Thinking Machines在模型卡里的口径:他们没把Inkling包装成榜单第一,而是直接写明它“并非整体最强模型”,把差异化卖点放在多模态原生输入和面向Tinker等工具链的可定制性上,这和发布通稿常见的“最强开源模型”式自夸不太一样。目前公开的HLE、AIME 2026、GPQA Diamond、SWE-bench Verified等成绩——比如GPQA Diamond 87.2%、SWE-bench Verified 77.6%——全部来自Thinking Machines自己的测试,还没有独立评测复现。社区那边已经有人拿同量级的MoE模型GLM-5.2出来对比,认为它在多项推理和agentic基准上反而领先。Hugging Face官方讨论区目前也相当冷清,唯一像样的帖子是有人反馈示例链接返回404。这次发布的完成度,还得等外部评测和真实用户跑一段时间才能验证。
开放权重不等于能本地跑
Inkling真正卡人的地方在硬件。BF16原始权重存储约1.9TB,拆成一百多个分片,实际跑推理要占用2TB显存;换成官方调过的NVFP4版本,也要600GB显存量级。就算用社区做的GGUF量化跑llama.cpp,压到最激进的IQ1_S(1-bit级别),体积仍要约270GB,Q4_K_XL要587GB,连8-bit的Q8_0都逼近857GB。也就是说,即便是“开放权重”,能实际部署它的也只有多卡服务器或云端集群,普通开发者的消费级显卡完全够不着。
- 风险.官方跑分目前无独立复现,量化到底仍需数百GB硬件,“开放”更多是许可证意义上的开放,不是普通人可及意义上的开放
更微妙的一点藏在命名里:此前预告的“轻量版”Inkling-Small,实际是276B总参数、12B激活参数——放在整个行业里依然是个不折不扣的大模型,“小”只是相对975B旗舰版而言。
谁会真的用它
真正可能用起Inkling的,是有多节点GPU集群的企业AI团队,以及围绕Tinker生态做模型微调的开发者。想在本地跑一个“开放模型”的个人开发者,大概率还是得等更小的蒸馏版本,或者继续用现有的中等规模模型。权重用Apache 2.0协议放出,但附带一份额外的可接受使用政策,商业化部署前最好先把边界读清楚。
- 结论.Thinking Machines真正想卖的是多模态原生输入和可定制性,不是榜首成绩
接下来值得盯的是三件事:独立评测能不能站住官方跑分、GLM-5.2一类同量级竞品的正面对比、以及量化版本实际的推理质量损失有多大。这些答案出来之前,Inkling更像一份技术能力的展示书,而不是一个已经准备好被大多数人用起来的产品。
