Mistral Large 4 开源权重发布:1 万亿参数的 MoE 模型
Mistral Large 4 开源权重发布:1 万亿参数 MoE 模型,100 万 token 上下文,API 每百万输入 token 0.70 美元。
本文的其他语言版本:العربيةDeutschEnglishEspañolFrançaisItaliano日本語Polski
本文内容
10 月 29 日,Mistral 发布了 Mistral Large 4 的开放权重(昵称 “Le Chonk”),这是它约 1 万亿参数的旗舰模型。Mistral Large 4 开源权重已经上线 Hugging Face,模型也可以通过 Mistral 的 API 和 OpenRouter 使用。
Mistral Large 4 开源版有什么新东西?
Mistral Large 4 在 10 月初以公开预览版的形式亮相,但当时只能通过 API 使用。现在我们拿到的是经过额外训练、并且开放权重的版本。根据模型卡,它是:
- 约 1 万亿参数的 MoE(混合专家)模型,每个 token 激活约 520 亿参数(128 个专家,激活 4 个,外加 1 个共享专家)。
- 拥有 100 万 token 上下文窗口的模型。
- 多模态模型:可输入文本和图像,以文本作答。
- 混合推理模型,提供三档推理强度:low、medium 和 high(默认)。
据发布公告,该模型能流利使用 160 多种语言。值得一提的是,Mistral 是在欧洲用 3,800 块 NVIDIA Grace Blackwell GPU 训练它的。
Mistral Large 4 能做什么?
Mistral 主打编程、智能体和网络安全。公告中的成绩如下:
| 基准测试 | 成绩 |
|---|---|
| Terminal-Bench 4.0 | 41%(预览版:28%) |
| Artificial Analysis Coding Agent Index | 48% |
| FrontierCode 2.0 | 19.7% |
| Artificial Analysis Cyber Index | 51% |
| BrowseComp | 84.5% |
| B3 Agent Security Benchmark | 97.1%(预览版:93.3%) |
最有意思的是 Terminal-Bench 上的跃升:三周内提高了 13 个百分点,而且输出 token 还少了 30%(据 Mistral 称)。这些都是公司自己公布的数字,在看到独立测试之前,我们不妨保持一点怀疑。
价格和许可证如何?
公告中的 API 价格:
- 每百万输入 token 0.70 美元,
- 每百万缓存输入 token 0.07 美元,
- 每百万输出 token 2.10 美元。
权重采用 Mistral Ecosystem Open-Weight 许可证,这是一份修改版的 MIT 许可证。我们可以使用、修改、微调并商用该模型,但想把它作为服务出售(Model-as-a-Service)的公司,需要另行从 Mistral 获得商业许可。
Mistral Large 4 能在本地运行吗?
理论上可以,实际上在家里基本跑不起来。模型卡中的示例默认使用 8 块 GPU,而据 The Next Web 报道,量化版本可以在四块 NVIDIA B200 或 B300 上运行。Mistral 还为 Blackwell GPU 准备了 NVFP4 检查点,模型已获得 vLLM、SGLang、Transformers 和 llama.cpp 的支持(GGUF 版本也已经有了)。
所以,在笔记本上跑一个万亿参数的模型更像是猎奇,而不是现实场景 ;) 如果想在本地玩模型,最好从小一些的模型开始,我在本地运行 AI 的教程里写过这个话题。
如何试用 Mistral Large 4?
有几种途径:
- chat.mistral.ai 上的 Vibe Code。
- 通过 Mistral Studio(console.mistral.ai)或 OpenRouter 调用 API。
- 如果能用上合适的 GPU 集群,可以直接用 Hugging Face 上的权重。
- NVIDIA 端点和 NIM 容器,以及 Microsoft Foundry。
这是最近几周又一个大型开放权重模型,此前有 Reflection Beam 和 Kimi K3.1 Pro 的发布。10 月初,Mistral 还推出了 Voxtral 3,不过它并没有开放权重。
常见问题
Mistral Large 4 是开源的吗?
它以 Mistral Ecosystem Open-Weight 许可证(修改版 MIT 许可证)开放权重。允许商用,但未经 Mistral 另行授权,不得将模型作为服务提供。
Mistral Large 4 有多少参数?
采用 MoE 架构,约 1 万亿参数,每个 token 激活约 520 亿参数(不含嵌入层和输出层为 490 亿)。
Mistral Large 4 能理解图像吗?
能,它可以输入文本和图像,并以文本作答。
Mistral Large 4 的 API 怎么收费?
每百万输入 token 0.70 美元,每百万输出 token 2.10 美元(根据公告中的价格表)。