Diffusionsmodell Mercury 3 schafft 1000 Tokens pro Sekunde

Am 19. Oktober hat Inception Mercury 3 veröffentlicht, sein neues Flaggschiff für Sprache. Laut Ankündigung erzeugt das Diffusionsmodell Mercury 3 rund 1068 Tokens pro Sekunde auf NVIDIA-GPUs, hat ein Kontextfenster von 1 Mio. Tokens und ist (gemessen an der Parameterzahl) mehr als 40-mal so groß wie der erste Mercury.

Was ist neu an Mercury 3?

Zuerst die Zahlen aus dem Blogpost von Inception:

1. Geschwindigkeit: ca. 1068 Tokens pro Sekunde auf NVIDIA-GPUs.
2. Kontext: 1 Mio. Tokens, gegenüber 260.000 bei Mercury 2.5.
3. Preis: 0,20 USD pro Million Input-Tokens und 0,70 USD pro Million Output-Tokens, Tokens aus dem Cache sind 90 % günstiger. Zum Start gibt es 50 % Rabatt, also 0,10 und 0,35 USD.
4. Kompatibel mit der OpenAI-API, das Modell lässt sich also ohne Umschreiben von Code an bestehende Tools anschließen.

Im selben Beitrag zeigt Inception außerdem Mercury Voice (ein Modell für Sprach-Apps, ausgelegt auf eine möglichst schnelle erste Antwort) und Mercury Decide für Klassifikation.

Inception vergleicht die Qualität von Mercury 3 mit den kleinen Modellen der großen Labs, nennt aber keine Ergebnisse für einzelne Benchmarks. Bisher sind das nur Messungen der Firma selbst, deshalb lasse ich diese Vergleiche weg, bis es unabhängige Tests gibt.

Was ist ein Diffusionsmodell für Sprache?

Und genau deshalb wird über Mercury überhaupt gesprochen. Klassische LLMs (GPT, Claude, Gemini) sind autoregressiv: Sie schreiben die Antwort Token für Token, und jedes weitere Token hängt von den vorherigen ab.

Diffusionsmodelle funktionieren ein bisschen wie Bildgeneratoren. Laut dem technischen Bericht zum ersten Mercury wird das Modell darauf trainiert, viele Tokens parallel vorherzusagen, es erzeugt und verbessert also mehrere Teile der Antwort gleichzeitig. Daher die Geschwindigkeit, denn das Modell muss nicht auf jedes nächste Wort warten.

Interessant: Inception behauptet, dass die Skalierungsgesetze, die den Fortschritt klassischer Modelle angetrieben haben, auch für Diffusion gelten. Mercury 3 soll der Beweis dafür sein: Laut Firma sind seine Ergebnisse auf Standard-Benchmarks 3x besser als die des ersten Mercury.

Ist Mercury 3 wirklich so gut?

Das erste unabhängige Review gibt es schon. Corey Noles von The Neuron hat Mercury 3 getestet, mit acht Prompts über OpenRouter, für insgesamt 0,04 USD. Am besten schnitt das Programmieren ab: Das Modell schrieb in einer einzigen HTML-Datei ein komplettes Dungeon-Crawler-Spiel, und 2000 zufällige Tests der Kartengenerierung fanden keinen einzigen Fehler.

Die Schwächen zeigten sich aber auch sofort:

1. Eine Kurzgeschichte sollte 250 Wörter haben, hatte aber ca. 274 und entfernte sich vom vorgegebenen Schauplatz.
2. Im Halluzinationstest wies das Modell eine erfundene NASA-Mission zurück, baute aber einen anderen, unabhängigen Sachfehler ein.
3. Ein Teil der Erklärungen war zu selbstsicher.

Die versprochenen 1068 Tokens pro Sekunde hat Noles nicht selbst gemessen (er schreibt, die API „felt fast“), sein Fazit lautet „genuinely exciting model at a startling price“. Behandeln wir Geschwindigkeit und Qualität also mit Vorsicht, bis es breitere Tests gibt.

Wie kann man Mercury 3 ausprobieren?

Wir haben mehrere Wege:

1. Chat im Browser: chat.inceptionlabs.ai.
2. Inception-API: platform.inceptionlabs.ai, laut Ankündigung mit 100 Mio. kostenlosen Tokens zum Start.
3. OpenRouter, Baseten und Vercel, wo das Modell als inception/mercury-3 verfügbar ist (auf OpenRouter).

Bei diesen Preisen und dieser Geschwindigkeit ist es ein interessanter Kandidat für ein Agent-Harness, bei dem in langen Schleifen die Antwortzeit zählt (ähnlich wie bei DeepSeek kostenlos in OpenCode). Gewichte gibt es vorerst nicht, lokal wie Reflection Beam können wir es also nicht laufen lassen.

FAQ

Ist Mercury 3 kostenlos?

Teilweise. Der Chat im Browser ist sofort verfügbar, und ein neues Konto in der Inception-API bekommt laut Ankündigung 100 Mio. kostenlose Tokens. Danach zahlen wir 0,20 USD pro Million Input-Tokens und 0,70 USD pro Million Output-Tokens (zum Start mit 50 % Rabatt).

Wie unterscheidet sich ein Diffusions-LLM von einem normalen?

Ein normales Modell schreibt die Antwort Token für Token. Ein Diffusionsmodell erzeugt und verbessert viele Tokens gleichzeitig und kann deshalb deutlich schneller sein.

Wer hat Mercury 3 entwickelt?

Inception (Inception Labs), das Start-up hinter der gesamten Mercury-Familie. Den Anfang machte Mercury Coder, ein Modell fürs Programmieren, beschrieben im Bericht vom Juni 2025 (zu den Autoren gehört u. a. Stefano Ermon).