Mistral Large 4 mit offenen Gewichten: MoE-Modell mit 1 Billion Parametern

Am 29. Oktober hat Mistral die offenen Gewichte von Mistral Large 4 veröffentlicht (Spitzname „Le Chonk“), seines Flaggschiffmodells mit rund 1 Billion Parametern. Damit ist Mistral Large 4 ein echtes Open-Weight-Modell: Die Gewichte liegen bereits auf Hugging Face, und das Modell läuft auch über die Mistral-API und OpenRouter.

Was ist neu an Mistral Large 4 als Open-Weight-Modell?

Mistral Large 4 kam Anfang Oktober als öffentliche Preview, damals allerdings nur über die API. Jetzt gibt es eine zusätzlich trainierte Version mit offenen Gewichten. Laut Model Card ist es:

1. Ein MoE-Modell (Mixture of Experts) mit rund 1 Billion Parametern, von denen pro Token etwa 52 Mrd. aktiv sind (128 Experten, 4 aktive plus 1 gemeinsamer).
2. Ein Modell mit einem Kontextfenster von 1M Token.
3. Ein multimodales Modell: Es nimmt Text und Bilder entgegen und antwortet mit Text.
4. Ein hybrides Modell mit drei Reasoning-Stufen: low, medium und high (Standard).

Laut Ankündigung spricht das Modell fließend mehr als 160 Sprachen. Interessant: Mistral hat es auf 3.800 NVIDIA-Grace-Blackwell-GPUs in Europa trainiert.

Was kann Mistral Large 4?

Mistral setzt vor allem auf Programmierung, Agenten und Cybersicherheit. Die Ergebnisse aus der Ankündigung:

Benchmark	Ergebnis
Terminal-Bench 4.0	41 % (Preview: 28 %)
Artificial Analysis Coding Agent Index	48 %
FrontierCode 2.0	19,7 %
Artificial Analysis Cyber Index	51 %
BrowseComp	84,5 %
B3 Agent Security Benchmark	97,1 % (Preview: 93,3 %)

Am spannendsten ist der Sprung bei Terminal-Bench: 13 Prozentpunkte in drei Wochen, und das mit 30 % weniger Output-Token (laut Mistral). Das sind Zahlen des Unternehmens selbst, also sollten wir sie mit Vorsicht genießen, bis unabhängige Tests vorliegen.

Was kostet es und unter welcher Lizenz steht es?

API-Preise aus der Ankündigung:

1. 0,70 USD pro 1 Mio. Input-Token,
2. 0,07 USD pro 1 Mio. Input-Token aus dem Cache,
3. 2,10 USD pro 1 Mio. Output-Token.

Die Gewichte stehen unter der Mistral Ecosystem Open-Weight License, einer modifizierten MIT-Lizenz. Wir dürfen das Modell nutzen, verändern, feintunen und kommerziell einsetzen. Ein Unternehmen, das es als Dienst verkaufen will (Model-as-a-Service), braucht aber eine separate kommerzielle Lizenz von Mistral.

Können wir Mistral Large 4 lokal ausführen?

Theoretisch ja, praktisch zu Hause eher nicht. Die Beispiele in der Model Card setzen 8 GPUs voraus, und laut The Next Web läuft die quantisierte Version auf vier NVIDIA-B200- oder -B300-Karten. Mistral hat außerdem einen NVFP4-Checkpoint für Blackwell-GPUs vorbereitet, und das Modell wird von vLLM, SGLang, Transformers und llama.cpp unterstützt (GGUF-Builds gibt es schon).

Ein Modell mit einer Billion Parametern auf dem Laptop laufen zu lassen, ist also eher eine Spielerei als ein realistisches Szenario ;) Wer lokal mit Modellen experimentieren will, fängt besser mit kleineren an. Darüber schreibe ich in meiner Anleitung, wie man KI lokal ausführt.

Wie können wir Mistral Large 4 ausprobieren?

Es gibt mehrere Wege:

1. Vibe Code auf chat.mistral.ai.
2. Die API über Mistral Studio (console.mistral.ai) oder OpenRouter.
3. Die Gewichte von Hugging Face, wenn wir Zugang zu einem passenden GPU-Cluster haben.
4. NVIDIA-Endpoints und der NIM-Container sowie Microsoft Foundry.

Es ist ein weiteres großes Open-Weight-Modell der letzten Wochen, nach Reflection Beam und der Ankündigung von Kimi K3.1 Pro. Anfang Oktober hat Mistral außerdem Voxtral 3 gezeigt, das wiederum keine offenen Gewichte bekommen hat.

FAQ

Ist Mistral Large 4 Open Source?

Es hat offene Gewichte unter der Mistral Ecosystem Open-Weight License (einer modifizierten MIT-Lizenz). Kommerzielle Nutzung ist erlaubt, außer das Modell ohne separate Lizenz von Mistral als Dienst anzubieten.

Wie viele Parameter hat Mistral Large 4?

Rund 1 Billion Parameter in einer MoE-Architektur, davon sind pro Token etwa 52 Mrd. aktiv (49 Mrd. ohne Embedding- und Ausgabeschicht).

Versteht Mistral Large 4 Bilder?

Ja, es nimmt Text und Bilder entgegen und antwortet mit Text.

Was kostet Mistral Large 4 über die API?

0,70 USD pro 1 Mio. Input-Token und 2,10 USD pro 1 Mio. Output-Token (laut Preisliste aus der Ankündigung).