Mercury 3, czyli dyfuzyjny LLM z 1000 tokenów na sekundę

19 października Inception opublikowało model Mercury 3, swój nowy flagowy dyfuzyjny model językowy. Według zapowiedzi generuje około 1068 tokenów na sekundę na GPU NVIDII, ma okno kontekstu 1 mln tokenów i jest ponad 40 razy większy (w liczbie parametrów) niż pierwszy Mercury.

Co nowego w Mercury 3?

Najpierw liczby z wpisu Inception:

1. Szybkość: ok. 1068 tokenów na sekundę na GPU NVIDII.
2. Kontekst: 1 mln tokenów, wobec 260 tys. w Mercury 2.5.
3. Cena: 0,20 USD za milion tokenów wejściowych i 0,70 USD za milion wyjściowych, a tokeny z cache są o 90% tańsze. Na start obowiązuje promocja -50%, czyli 0,10 i 0,35 USD.
4. Zgodność z API OpenAI, więc model da się podpiąć pod istniejące narzędzia bez przepisywania kodu.

W tym samym wpisie Inception pokazuje też Mercury Voice (model do aplikacji głosowych, nastawiony na jak najszybszą pierwszą odpowiedź) i Mercury Decide do klasyfikacji.

Inception porównuje jakość Mercury 3 z małymi modelami dużych laboratoriów, ale nie podaje wyników dla poszczególnych benchmarków. Na razie to tylko pomiary samej firmy, więc te porównania zostawiam na później, gdy pojawią się niezależne testy.

Czym jest dyfuzyjny model językowy?

I to jest powód, dla którego o Mercury w ogóle się mówi. Klasyczne LLM-y (GPT, Claude, Gemini) są autoregresyjne: piszą odpowiedź token po tokenie, a każdy kolejny token zależy od poprzednich.

Modele dyfuzyjne działają trochę jak generatory obrazów. Według raportu technicznego pierwszego Mercury model jest trenowany tak, by przewidywać wiele tokenów równolegle, czyli generuje i poprawia kilka części odpowiedzi naraz. Stąd ta szybkość, bo model nie musi czekać na każde kolejne słowo.

Co ciekawe, Inception twierdzi, że prawa skalowania, które napędzały postęp klasycznych modeli, działają też dla dyfuzji. Mercury 3 ma być na to dowodem: według firmy jego wyniki na standardowych benchmarkach są 3x lepsze niż pierwszego Mercury.

Czy Mercury 3 jest naprawdę taki dobry?

Pierwsza niezależna recenzja już jest. Corey Noles z The Neuron przetestował Mercury 3 w ośmiu zapytaniach przez OpenRouter, za łączne 0,04 USD. Najlepiej wypadło programowanie: model napisał w jednym pliku HTML kompletną grę typu dungeon crawler, a 2000 losowych testów generowania mapy nie wykazało żadnego błędu.

Słabsze strony też wyszły od razu:

1. Opowiadanie miało mieć 250 słów, a miało ok. 274 i odpłynęło od zadanego miejsca akcji.
2. W teście na halucynacje model odrzucił zmyśloną misję NASA, ale dorzucił niezwiązany błąd faktograficzny.
3. Część wyjaśnień była zbyt pewna siebie.

Noles nie zmierzył sam deklarowanych 1068 tokenów na sekundę (pisze, że API „felt fast”), a podsumowuje model jako „genuinely exciting model at a startling price”. Traktujmy więc szybkość i jakość z dystansem, dopóki nie zobaczymy szerszych testów.

Jak wypróbować Mercury 3?

Mamy kilka dróg:

1. Czat w przeglądarce: chat.inceptionlabs.ai.
2. API Inception: platform.inceptionlabs.ai, według zapowiedzi ze 100 mln darmowych tokenów na start.
3. OpenRouter, Baseten i Vercel, gdzie model jest dostępny jako inception/mercury-3 (na OpenRouter).

Przy takich cenach i szybkości to ciekawy kandydat do harnessu agentowego, gdzie liczy się czas odpowiedzi w długich pętlach (podobnie jak przy DeepSeeku za darmo w OpenCode). Wag na razie nie ma, więc lokalnie, jak Reflection Beam, go nie uruchomimy.

FAQ

Czy Mercury 3 jest za darmo?

Częściowo. Czat w przeglądarce jest dostępny od ręki, a nowe konto w API Inception według zapowiedzi dostaje 100 mln darmowych tokenów. Potem płacimy 0,20 USD za milion tokenów wejściowych i 0,70 USD za milion wyjściowych (na start z rabatem 50%).

Czym różni się dyfuzyjny LLM od zwykłego?

Zwykły model pisze odpowiedź token po tokenie. Model dyfuzyjny generuje i poprawia wiele tokenów naraz, dlatego może być dużo szybszy.

Kto stworzył Mercury 3?

Inception (Inception Labs), startup stojący za całą rodziną Mercury. Pierwszy był Mercury Coder, model do programowania opisany w raporcie z czerwca 2025 r. (wśród autorów jest m.in. Stefano Ermon).