Vai al contenuto
sobolewski.proL'IA di oggi, ogni seraIscriviti

Una volta al giorno. Disiscriviti con un clic. Informativa sulla privacy

Mistral Large 4 open weight: modello MoE da 1.000 miliardi di parametri

Mistral Large 4 è ora open weight: MoE da 1.000 miliardi di parametri, contesto da 1M token e API a 0,70 USD per 1M token in input. Vediamo cosa sa fare.

3 min di lettura

Questo articolo in altre lingue:العربيةDeutschEnglishEspañolFrançais日本語Polski简体中文

In questo articolo
  1. Cosa cambia con Mistral Large 4 open weight?
  2. Cosa sa fare Mistral Large 4?
  3. Quanto costa e con che licenza?
  4. Possiamo eseguire Mistral Large 4 in locale?
  5. Come provare Mistral Large 4?
  6. FAQ

Il 29 ottobre Mistral ha rilasciato i pesi aperti di Mistral Large 4 (soprannominato anche «Le Chonk»), il suo modello di punta con circa 1.000 miliardi di parametri. Mistral Large 4 open weight è già su Hugging Face, e il modello è disponibile anche tramite l’API di Mistral e OpenRouter.

Cosa cambia con Mistral Large 4 open weight?

Mistral Large 4 era arrivato a inizio ottobre come anteprima pubblica, ma allora solo via API. Ora abbiamo una versione con un addestramento aggiuntivo e i pesi aperti. Secondo la scheda del modello, è:

  1. Un modello MoE (mixture-of-experts) da circa 1.000 miliardi di parametri, di cui circa 52 miliardi attivi per token (128 esperti, 4 attivi più 1 condiviso).
  2. Un modello con finestra di contesto da 1M token.
  3. Un modello multimodale: accetta testo e immagini e risponde con testo.
  4. Un modello ibrido con tre livelli di ragionamento: low, medium e high (predefinito).

Secondo l’annuncio, il modello parla fluentemente oltre 160 lingue. Curiosità: Mistral lo ha addestrato su 3.800 GPU NVIDIA Grace Blackwell in Europa.

Cosa sa fare Mistral Large 4?

Mistral punta soprattutto su programmazione, agenti e cybersicurezza. I risultati dell’annuncio:

Benchmark Risultato
Terminal-Bench 4.0 41% (anteprima: 28%)
Artificial Analysis Coding Agent Index 48%
FrontierCode 2.0 19,7%
Artificial Analysis Cyber Index 51%
BrowseComp 84,5%
B3 Agent Security Benchmark 97,1% (anteprima: 93,3%)

La cosa più interessante è il salto su Terminal-Bench: 13 punti percentuali in tre settimane, e con il 30% di token in output in meno (secondo Mistral). Sono numeri dichiarati dall’azienda stessa, quindi prendiamoli con le pinze finché non vedremo test indipendenti.

Quanto costa e con che licenza?

Prezzi dell’API dall’annuncio:

  1. 0,70 USD per 1M token in input,
  2. 0,07 USD per 1M token in input dalla cache,
  3. 2,10 USD per 1M token in output.

I pesi sono rilasciati con la licenza Mistral Ecosystem Open-Weight, una licenza MIT modificata. Possiamo usare, modificare, fare fine-tuning e sfruttare commercialmente il modello, ma un’azienda che vuole venderlo come servizio (Model-as-a-Service) ha bisogno di una licenza commerciale separata da Mistral.

Possiamo eseguire Mistral Large 4 in locale?

In teoria sì, in pratica difficilmente a casa. Gli esempi nella scheda del modello presuppongono 8 GPU, e secondo The Next Web la versione quantizzata gira su quattro schede NVIDIA B200 o B300. Mistral ha preparato anche un checkpoint NVFP4 per le GPU Blackwell, e il modello è supportato da vLLM, SGLang, Transformers e llama.cpp (ci sono già build GGUF).

Far girare un modello da mille miliardi di parametri su un portatile è quindi più una curiosità che uno scenario reale ;) Se vogliamo giocare con i modelli in locale, meglio partire da quelli più piccoli, di cui parlo nella mia guida per usare l’AI in locale.

Come provare Mistral Large 4?

Abbiamo diverse strade:

  1. Vibe Code su chat.mistral.ai.
  2. L’API tramite Mistral Studio (console.mistral.ai) oppure OpenRouter.
  3. I pesi da Hugging Face, se abbiamo accesso a un cluster GPU adeguato.
  4. Gli endpoint NVIDIA e il container NIM, oltre a Microsoft Foundry.

È un altro grande modello open weight delle ultime settimane, dopo Reflection Beam e l’annuncio di Kimi K3.1 Pro. A inizio ottobre Mistral aveva presentato anche Voxtral 3, che invece i pesi aperti non li ha avuti.

FAQ

Mistral Large 4 è open source?

Ha i pesi aperti con la licenza Mistral Ecosystem Open-Weight (una licenza MIT modificata). L’uso commerciale è consentito, tranne offrire il modello come servizio senza una licenza separata da Mistral.

Quanti parametri ha Mistral Large 4?

Circa 1.000 miliardi di parametri in un’architettura MoE, di cui circa 52 miliardi attivi per token (49 miliardi senza i layer di embedding e di output).

Mistral Large 4 capisce le immagini?

Sì, accetta testo e immagini e risponde con testo.

Quanto costa Mistral Large 4 via API?

0,70 USD per 1M token in input e 2,10 USD per 1M token in output (secondo il listino dell’annuncio).

  • IA
  • open weight
  • agenti IA

L'IA di oggi, ogni sera

Ogni sera le notizie più importanti sull'IA e i nuovi articoli del blog. In breve, con le fonti.

Una volta al giorno. Disiscriviti con un clic. Informativa sulla privacy