Mistral Large 4 open weight: modello MoE da 1.000 miliardi di parametri
Mistral Large 4 è ora open weight: MoE da 1.000 miliardi di parametri, contesto da 1M token e API a 0,70 USD per 1M token in input. Vediamo cosa sa fare.
Questo articolo in altre lingue:العربيةDeutschEnglishEspañolFrançais日本語Polski简体中文
In questo articolo
Il 29 ottobre Mistral ha rilasciato i pesi aperti di Mistral Large 4 (soprannominato anche «Le Chonk»), il suo modello di punta con circa 1.000 miliardi di parametri. Mistral Large 4 open weight è già su Hugging Face, e il modello è disponibile anche tramite l’API di Mistral e OpenRouter.
Cosa cambia con Mistral Large 4 open weight?
Mistral Large 4 era arrivato a inizio ottobre come anteprima pubblica, ma allora solo via API. Ora abbiamo una versione con un addestramento aggiuntivo e i pesi aperti. Secondo la scheda del modello, è:
- Un modello MoE (mixture-of-experts) da circa 1.000 miliardi di parametri, di cui circa 52 miliardi attivi per token (128 esperti, 4 attivi più 1 condiviso).
- Un modello con finestra di contesto da 1M token.
- Un modello multimodale: accetta testo e immagini e risponde con testo.
- Un modello ibrido con tre livelli di ragionamento: low, medium e high (predefinito).
Secondo l’annuncio, il modello parla fluentemente oltre 160 lingue. Curiosità: Mistral lo ha addestrato su 3.800 GPU NVIDIA Grace Blackwell in Europa.
Cosa sa fare Mistral Large 4?
Mistral punta soprattutto su programmazione, agenti e cybersicurezza. I risultati dell’annuncio:
| Benchmark | Risultato |
|---|---|
| Terminal-Bench 4.0 | 41% (anteprima: 28%) |
| Artificial Analysis Coding Agent Index | 48% |
| FrontierCode 2.0 | 19,7% |
| Artificial Analysis Cyber Index | 51% |
| BrowseComp | 84,5% |
| B3 Agent Security Benchmark | 97,1% (anteprima: 93,3%) |
La cosa più interessante è il salto su Terminal-Bench: 13 punti percentuali in tre settimane, e con il 30% di token in output in meno (secondo Mistral). Sono numeri dichiarati dall’azienda stessa, quindi prendiamoli con le pinze finché non vedremo test indipendenti.
Quanto costa e con che licenza?
Prezzi dell’API dall’annuncio:
- 0,70 USD per 1M token in input,
- 0,07 USD per 1M token in input dalla cache,
- 2,10 USD per 1M token in output.
I pesi sono rilasciati con la licenza Mistral Ecosystem Open-Weight, una licenza MIT modificata. Possiamo usare, modificare, fare fine-tuning e sfruttare commercialmente il modello, ma un’azienda che vuole venderlo come servizio (Model-as-a-Service) ha bisogno di una licenza commerciale separata da Mistral.
Possiamo eseguire Mistral Large 4 in locale?
In teoria sì, in pratica difficilmente a casa. Gli esempi nella scheda del modello presuppongono 8 GPU, e secondo The Next Web la versione quantizzata gira su quattro schede NVIDIA B200 o B300. Mistral ha preparato anche un checkpoint NVFP4 per le GPU Blackwell, e il modello è supportato da vLLM, SGLang, Transformers e llama.cpp (ci sono già build GGUF).
Far girare un modello da mille miliardi di parametri su un portatile è quindi più una curiosità che uno scenario reale ;) Se vogliamo giocare con i modelli in locale, meglio partire da quelli più piccoli, di cui parlo nella mia guida per usare l’AI in locale.
Come provare Mistral Large 4?
Abbiamo diverse strade:
- Vibe Code su chat.mistral.ai.
- L’API tramite Mistral Studio (console.mistral.ai) oppure OpenRouter.
- I pesi da Hugging Face, se abbiamo accesso a un cluster GPU adeguato.
- Gli endpoint NVIDIA e il container NIM, oltre a Microsoft Foundry.
È un altro grande modello open weight delle ultime settimane, dopo Reflection Beam e l’annuncio di Kimi K3.1 Pro. A inizio ottobre Mistral aveva presentato anche Voxtral 3, che invece i pesi aperti non li ha avuti.
FAQ
Mistral Large 4 è open source?
Ha i pesi aperti con la licenza Mistral Ecosystem Open-Weight (una licenza MIT modificata). L’uso commerciale è consentito, tranne offrire il modello come servizio senza una licenza separata da Mistral.
Quanti parametri ha Mistral Large 4?
Circa 1.000 miliardi di parametri in un’architettura MoE, di cui circa 52 miliardi attivi per token (49 miliardi senza i layer di embedding e di output).
Mistral Large 4 capisce le immagini?
Sì, accetta testo e immagini e risponde con testo.
Quanto costa Mistral Large 4 via API?
0,70 USD per 1M token in input e 2,10 USD per 1M token in output (secondo il listino dell’annuncio).