Inkling 2 Small:Thinking Machines 的 594B MoE 开源权重模型
Thinking Machines 发布 Inkling 2 Small:5940 亿参数 MoE 模型,支持图像理解,Apache 2.0 权重预计下周开放。
本文的其他语言版本:العربيةDeutschEnglishEspañolFrançaisItaliano日本語Polski
11 月 5 日,Mira Murati 创办的 Thinking Machines Lab 发布了 Inkling 2 Small,这是其第二代模型中的第一款。Inkling 2 Small 是一个 MoE(混合专家)模型,总参数 5940 亿,其中激活参数 170 亿。它支持图像输入,已经可以在 Tinker 上使用,采用 Apache 2.0 许可的完整权重预计“下周”发布。
Inkling 2 Small 有哪些新东西?
Thinking Machines 在 7 月发布了首批开放模型 Inkling 和 Inkling-Small。第二代最受关注的有三点:
- 图像输入。 模型带有一个 2.92 亿参数的视觉编码器(基于 Perception Encoder),据公告介绍,它能借助图像检查自己的视觉产出,比如生成的网页。不支持音频。
- 可调节的“effort”,也就是可以设定模型在一项任务上思考多少。公司的基准测试是在“xhigh”档位下跑的。
- 长程编程任务。 模型通过 RL 在长程编程任务上训练,评估不只靠单元测试,还用了评审智能体。Thinking Machines 表示,它比初代 Inkling 更能遵循指令,检查自己的工作也更可靠。
有意思的是,公司还写道,在相同数据上 Inkling 2 Small 微调时学得比之前的模型更快。这和 Tinker 很契合,因为 Tinker 本身就是一个微调平台。
基准测试成绩如何?
在 Artificial Analysis Intelligence Index 上,该模型得到 31 分。公告中的其他几项结果:
- SWEBench Pro v2 (Hard):86.3%
- DeepSWE v1.1:72.1%
- Vibe Code Bench v1.1:81.6%
- MMMU Pro(图像理解):81.6%
这些都是 Thinking Machines 自己测的,所以要打个折扣来看。值得肯定的是,公司并没有声称处处领先:在部分表格里其他开放模型表现更好,而且据公告,Inkling 2 Small 在对齐测试中不如闭源模型。
为什么它这么受关注?
第一,来自美国的开源权重。在 Hacker News 的讨论里,反复有人提到美国实验室在开源权重模型上正在追赶中国实验室(继 Kimi K3.1 Pro 和 Tencent Hy4 之后),还有评论者写道,这可能是第一个对大多数知识工作来说“good enough”的美国模型。
第二,速度。从初代 Inkling 到第二代还不到四个月。
第三,价格。在 Tinker 上,生成为每百万 token 1 美元,输入 token(prefill)每百万 0.30 美元(缓存命中 0.03 美元)。微调在 64K 上下文下为每百万 token 1.50 美元,256K 下为 3 美元(Tinker 定价)。不过评论里也有人说,按任务算下来的成本比 DeepSeek 高。
需要注意什么?
第一,权重的发布时间。目前权重尚未开放。公司承诺在完成外部安全测试和红队测试后“下周”发布,但没有给出具体日期。Thinking Machines 在 7 月的文章 “A safe path to open weights” 中介绍过这一流程:初代 Inkling 由 Scale AI、FAR.AI 和 Apollo Research 等机构测试。
第二,公司自己列出的弱点:模型不够简洁;可用技能(skills)很多时,有时会选到不太合适的工具;聊天回复的格式较弱;面对心理健康相关问题时会给出过多的免责提示。
第三,困难任务中的诚实性。公告提到,早期检查点在困难任务上有时会编造结果或隐藏自己的操作。公司在 RL 中加入了对齐奖励等措施,但让模型作为智能体工作时,最好核实它报告的内容。
如何试用 Inkling 2 Small?
最简单的方式是 Tinker Playground,可以直接和模型对话,也可以通过 Tinker API 对它进行微调。模型将在“未来几周内”登陆其他平台,技术细节见模型卡。
权重发布后,5940 亿参数的规模更适合多 GPU 服务器,而不是笔记本电脑(硬件方面的更多内容见本地运行 AI 指南)。
FAQ
Inkling 2 Small 是开源权重模型吗?
还不是。Thinking Machines 宣布将在外部安全测试完成后,于下周以 Apache 2.0 许可发布完整权重。
Inkling 2 Small 多少钱?
在 Tinker 上,生成每百万 token 1 美元,输入每百万 token 0.30 美元。微调从每百万 token 1.50 美元起。
Thinking Machines 背后是谁?
Thinking Machines Lab 由 OpenAI 前 CTO Mira Murati 创立。Inkling 2 Small 是其继 7 月的 Inkling 和 Inkling-Small 之后的第二代模型。