Mistral Large 4 en poids ouverts : un MoE de 1 000 milliards de paramètres
Mistral Large 4 passe en poids ouverts : MoE de 1 000 milliards de paramètres, contexte de 1M tokens, API à 0,70 USD le million de tokens en entrée. Ce qu'il vaut.
Cet article dans d’autres langues :العربيةDeutschEnglishEspañolItaliano日本語Polski简体中文
Dans cet article
Le 29 octobre, Mistral a publié les poids ouverts de Mistral Large 4 (surnommé aussi « Le Chonk »), son modèle phare d’environ 1 000 milliards de paramètres. Les poids ouverts de Mistral Large 4 sont déjà sur Hugging Face, et le modèle est aussi accessible via l’API de Mistral et OpenRouter.
Quoi de neuf avec Mistral Large 4 en poids ouverts ?
Mistral Large 4 est apparu début octobre en préversion publique, mais uniquement via l’API. Nous avons maintenant une version qui a bénéficié d’un entraînement supplémentaire, avec des poids ouverts. Selon la fiche du modèle, c’est :
- Un modèle MoE (mixture-of-experts) d’environ 1 000 milliards de paramètres, dont environ 52 milliards sont actifs par token (128 experts, 4 actifs plus 1 partagé).
- Un modèle avec une fenêtre de contexte de 1M tokens.
- Un modèle multimodal : il accepte du texte et des images et répond en texte.
- Un modèle hybride avec trois niveaux de raisonnement : low, medium et high (par défaut).
D’après l’annonce, le modèle parle couramment plus de 160 langues. Détail intéressant : Mistral l’a entraîné sur 3 800 GPU NVIDIA Grace Blackwell en Europe.
Que sait faire Mistral Large 4 ?
Mistral mise avant tout sur le code, les agents et la cybersécurité. Les résultats de l’annonce :
| Benchmark | Score |
|---|---|
| Terminal-Bench 4.0 | 41 % (préversion : 28 %) |
| Artificial Analysis Coding Agent Index | 48 % |
| FrontierCode 2.0 | 19,7 % |
| Artificial Analysis Cyber Index | 51 % |
| BrowseComp | 84,5 % |
| B3 Agent Security Benchmark | 97,1 % (préversion : 93,3 %) |
Le plus intéressant, c’est le bond sur Terminal-Bench : 13 points de pourcentage en trois semaines, avec en plus 30 % de tokens en sortie en moins (selon Mistral). Ce sont les chiffres de l’entreprise elle-même, donc prenons-les avec du recul tant que nous n’avons pas de tests indépendants.
Combien ça coûte et sous quelle licence ?
Tarifs de l’API selon l’annonce :
- 0,70 USD par million de tokens en entrée,
- 0,07 USD par million de tokens en entrée mis en cache,
- 2,10 USD par million de tokens en sortie.
Les poids sont publiés sous la licence Mistral Ecosystem Open-Weight, une licence MIT modifiée. Nous pouvons utiliser, modifier, fine-tuner et exploiter commercialement le modèle, mais une entreprise qui veut le vendre en tant que service (Model-as-a-Service) a besoin d’une licence commerciale distincte de Mistral.
Peut-on faire tourner Mistral Large 4 en local ?
En théorie oui, en pratique plutôt pas à la maison. Les exemples de la fiche du modèle supposent 8 GPU, et selon The Next Web, la version quantifiée tourne sur quatre cartes NVIDIA B200 ou B300. Mistral a aussi préparé un checkpoint NVFP4 pour les GPU Blackwell, et le modèle est pris en charge par vLLM, SGLang, Transformers et llama.cpp (des builds GGUF existent déjà).
Faire tourner un modèle de 1 000 milliards de paramètres sur un portable relève donc plus de la curiosité que d’un scénario réaliste ;) Pour s’amuser avec des modèles en local, mieux vaut commencer par des plus petits, comme je l’explique dans mon guide pour faire tourner une IA en local.
Comment essayer Mistral Large 4 ?
Nous avons plusieurs options :
- Vibe Code sur chat.mistral.ai.
- L’API via Mistral Studio (console.mistral.ai) ou OpenRouter.
- Les poids sur Hugging Face, si nous avons accès à un cluster GPU adapté.
- Les endpoints NVIDIA et le conteneur NIM, ainsi que Microsoft Foundry.
C’est un nouveau grand modèle à poids ouverts ces dernières semaines, après Reflection Beam et l’annonce de Kimi K3.1 Pro. Début octobre, Mistral a aussi présenté Voxtral 3, qui, lui, n’a pas eu droit à des poids ouverts.
FAQ
Mistral Large 4 est-il open source ?
Il a des poids ouverts sous la licence Mistral Ecosystem Open-Weight (une licence MIT modifiée). L’usage commercial est autorisé, sauf pour proposer le modèle en tant que service sans licence distincte de Mistral.
Combien de paramètres a Mistral Large 4 ?
Environ 1 000 milliards de paramètres dans une architecture MoE, dont environ 52 milliards actifs par token (49 milliards sans les couches d’embedding et de sortie).
Mistral Large 4 comprend-il les images ?
Oui, il accepte du texte et des images et répond en texte.
Combien coûte Mistral Large 4 via l’API ?
0,70 USD par million de tokens en entrée et 2,10 USD par million de tokens en sortie (selon les tarifs de l’annonce).