稀疏 MoE 的“大而省”路线又添一个样本:Thinking Machines Lab 用 594B 总参数、17B 激活参数的结构,把推理成本压到与中等规模稠密模型相近的量级。
发生了什么
Thinking Machines Lab 发布了 Inkling 2 Small。按官方披露的信息,这是一个总参数量 594B 的混合专家(MoE)模型,单次前向实际激活的参数约为 17B。它在 Artificial Analysis Intelligence Index 上取得 31 分,可通过该团队的 Tinker 平台运行,权重计划以 Apache 2.0 协议开放。
需要说明的是,目前公开信息只有这些:没有分项基准、没有上下文长度、没有训练数据与算力细节,也没有具体的开放时间表。因此对它的能力判断,只能先落在一个综合分数和一个架构规格上。
为什么重要
MoE 的核心卖点是把“模型容量”和“推理开销”解耦:总参数决定知识容量与表达上限,激活参数决定每次调用要付多少算力。594B 对 17B 的比例相当激进,激活占比不到 3%,意味着它试图用接近 20B 级稠密模型的单次计算量,去换取更大参数池带来的能力。
放在竞争格局里看,这条路线已被多家实验室验证为“以工程复杂度换性价比”的主流选择。但真正稀缺的不是架构,而是配套:路由是否稳定、专家负载是否均衡、长上下文下激活是否仍然高效,这些细节决定 MoE 是省钱还是只是把成本挪到了别处。
更值得注意的是 Tinker 与 Apache 2.0 的组合。Thinking Machines 由 Mira Murati 创立,定位并非单纯发模型,而是提供微调与推理的基础设施。把模型放进自家平台、同时承诺开放权重,等于同时打“可定制”和“可自托管”两张牌——这对既想控制成本、又不愿把数据交给闭源 API 的团队有直接吸引力。
影响与看点
对开发者而言,最实际的问题是:31 分的综合智能水平,配上 17B 的激活开销,是否足以替代当前使用的 20B—30B 级稠密模型。如果答案是肯定的,那么单位 token 成本与部署灵活性会明显改善;如果否,它就只是又一个“参数好看、能力中庸”的中间选项。
对行业而言,Apache 2.0 的承诺比分数更关键。开放权重意味着社区可以做量化、蒸馏和领域微调,模型的实际价值往往在发布后由生态二次放大。但“计划开放”与“已经开放”之间仍有距离,权重何时落地、是否附带使用限制,需要持续观察。
一个克制的判断:Inkling 2 Small 目前更像一次架构与平台能力的联合展示,而非可直接定论的能力跃迁。它真正的考验不在发布日的那个分数,而在权重落地后,社区能否用它跑出闭源 API 做不到的事。



