Mercury 3 扩散语言模型:每秒生成 1000 个 token
Inception 的 Mercury 3 扩散语言模型:每秒超 1000 token、1M 上下文、每百万 token 0.20 美元。附原理与试用方法。
本文的其他语言版本:العربيةDeutschEnglishEspañolFrançaisItaliano日本語Polski
10 月 19 日,Inception 发布了 Mercury 3,这是它新的旗舰模型。据官方公告,Mercury 3 扩散语言模型在 NVIDIA GPU 上每秒可生成约 1068 个 token,上下文窗口为 100 万 token,参数规模是第一代 Mercury 的 40 多倍。
Mercury 3 有什么新东西?
先看 Inception 博文里的数字:
- 速度:在 NVIDIA GPU 上约每秒 1068 个 token。
- 上下文:100 万 token,而 Mercury 2.5 是 26 万。
- 价格:每百万输入 token 0.20 美元,每百万输出 token 0.70 美元,缓存 token 便宜 90%。上线期间有五折优惠,也就是 0.10 和 0.35 美元。
- 兼容 OpenAI API,所以不用改代码就能把模型接进现有工具。
在同一篇博文里,Inception 还介绍了 Mercury Voice(面向语音应用、主打尽可能快给出第一句回应的模型)和用于分类的 Mercury Decide。
Inception 把 Mercury 3 的质量和大厂的小模型做了对比,但没有给出各项基准测试的具体结果。目前这些都只是公司自己的测量,所以我先不谈这些对比,等有了独立测试再说。
什么是扩散语言模型?
这正是 Mercury 受到关注的原因。经典的 LLM(GPT、Claude、Gemini)是自回归的:逐个 token 地写出回答,每个新 token 都依赖前面的 token。
扩散模型的工作方式有点像图像生成器。根据第一代 Mercury 的技术报告,模型被训练成并行预测多个 token,也就是同时生成并修正回答的多个部分。速度就来自这里:模型不必等每一个下一个词。
有意思的是,Inception 声称推动经典模型进步的缩放定律同样适用于扩散模型。Mercury 3 据称就是证据:按公司的说法,它在标准基准测试上的成绩是第一代 Mercury 的 3 倍。
Mercury 3 真的有那么好吗?
第一篇独立评测已经出来了。The Neuron 的 Corey Noles 测试了 Mercury 3,通过 OpenRouter 跑了八个提示词,总共花了 0.04 美元。表现最好的是编程:模型在一个 HTML 文件里写出了一个完整的地牢探索(dungeon crawler)游戏,2000 次随机地图生成测试没有发现任何错误。
弱点也很快暴露出来:
- 一篇短篇故事要求 250 词,结果写了约 274 词,还偏离了指定的故事背景。
- 在幻觉测试中,模型否认了一个虚构的 NASA 任务,却又附带了一个不相关的事实错误。
- 部分解释过于自信。
Noles 没有亲自测量官方宣称的每秒 1068 个 token(他写道 API「felt fast」),他对模型的总结是「genuinely exciting model at a startling price」。所以在看到更广泛的测试之前,我们对速度和质量都先保留一点怀疑。
怎么试用 Mercury 3?
我们有几条路:
- 浏览器聊天:chat.inceptionlabs.ai。
- Inception API:platform.inceptionlabs.ai,据公告新用户有 1 亿免费 token。
- OpenRouter、Baseten 和 Vercel,在 OpenRouter 上模型名为
inception/mercury-3。
以这样的价格和速度,它很适合放进智能体 harness,在长循环里响应时间很关键(类似在 OpenCode 里免费用 DeepSeek)。目前没有公开权重,所以没法像 Reflection Beam 那样在本地运行。
FAQ
Mercury 3 免费吗?
部分免费。浏览器聊天可以直接用,据公告 Inception API 的新账号会获得 1 亿免费 token。之后每百万输入 token 0.20 美元,每百万输出 token 0.70 美元(上线期间五折)。
扩散 LLM 和普通 LLM 有什么区别?
普通模型逐个 token 地写回答。扩散模型同时生成并修正多个 token,所以可以快得多。
Mercury 3 是谁开发的?
Inception(Inception Labs),整个 Mercury 系列背后的初创公司。第一款是面向编程的 Mercury Coder,在 2025 年 6 月的报告中有介绍(作者包括 Stefano Ermon)。