Le modèle de diffusion Mercury 3 atteint 1000 tokens par seconde

Le 19 octobre, Inception a publié Mercury 3, son nouveau modèle phare pour le langage. D’après l’annonce, le modèle de diffusion Mercury 3 génère environ 1068 tokens par seconde sur GPU NVIDIA, dispose d’une fenêtre de contexte de 1 million de tokens et est plus de 40 fois plus grand (en nombre de paramètres) que le premier Mercury.

Quoi de neuf dans Mercury 3 ?

D’abord, les chiffres du billet d’Inception :

1. Vitesse : environ 1068 tokens par seconde sur GPU NVIDIA.
2. Contexte : 1 million de tokens, contre 260 000 pour Mercury 2.5.
3. Prix : 0,20 USD par million de tokens en entrée et 0,70 USD par million en sortie, et les tokens en cache coûtent 90 % de moins. Au lancement, une remise de 50 % s’applique, soit 0,10 et 0,35 USD.
4. Compatible avec l’API OpenAI, donc on peut brancher le modèle sur des outils existants sans réécrire de code.

Dans le même billet, Inception présente aussi Mercury Voice (un modèle pour les applications vocales, conçu pour donner la première réponse le plus vite possible) et Mercury Decide pour la classification.

Inception compare la qualité de Mercury 3 aux petits modèles des grands laboratoires, mais ne donne pas de résultats benchmark par benchmark. Pour l’instant, ce ne sont que les mesures de l’entreprise elle-même, donc je laisse ces comparaisons de côté jusqu’à l’arrivée de tests indépendants.

Qu’est-ce qu’un modèle de langage par diffusion ?

Et c’est bien pour ça qu’on parle de Mercury. Les LLM classiques (GPT, Claude, Gemini) sont autorégressifs : ils écrivent la réponse token par token, et chaque nouveau token dépend des précédents.

Les modèles de diffusion fonctionnent un peu comme les générateurs d’images. Selon le rapport technique du premier Mercury, le modèle est entraîné à prédire de nombreux tokens en parallèle, c’est-à-dire qu’il génère et corrige plusieurs parties de la réponse en même temps. D’où la vitesse : le modèle n’a pas à attendre chaque mot suivant.

Fait intéressant, Inception affirme que les lois d’échelle qui ont porté les progrès des modèles classiques valent aussi pour la diffusion. Mercury 3 en serait la preuve : selon l’entreprise, ses scores sur les benchmarks standard sont 3 fois meilleurs que ceux du premier Mercury.

Mercury 3 est-il vraiment si bon ?

La première review indépendante est déjà là. Corey Noles, de The Neuron, a testé Mercury 3 sur huit requêtes via OpenRouter, pour un total de 0,04 USD. C’est en programmation qu’il s’en est le mieux sorti : le modèle a écrit dans un seul fichier HTML un jeu complet de type dungeon crawler, et 2000 tests aléatoires de génération de carte n’ont révélé aucune erreur.

Les points faibles sont apparus tout de suite aussi :

1. Une nouvelle devait faire 250 mots, elle en a fait environ 274 et s’est éloignée du décor demandé.
2. Dans un test d’hallucination, le modèle a rejeté une mission de la NASA inventée, mais a ajouté une erreur factuelle sans rapport.
3. Une partie des explications était trop sûre d’elle.

Noles n’a pas mesuré lui-même les 1068 tokens par seconde annoncés (il écrit que l’API « felt fast ») et résume le modèle comme un « genuinely exciting model at a startling price ». Prenons donc la vitesse et la qualité avec recul, en attendant des tests plus larges.

Comment essayer Mercury 3 ?

Nous avons plusieurs options :

1. Chat dans le navigateur : chat.inceptionlabs.ai.
2. API Inception : platform.inceptionlabs.ai, avec, d’après l’annonce, 100 millions de tokens gratuits pour démarrer.
3. OpenRouter, Baseten et Vercel, où le modèle est disponible sous le nom inception/mercury-3 (sur OpenRouter).

À ces prix et à cette vitesse, c’est un candidat intéressant pour un harness d’agents, où le temps de réponse compte dans les longues boucles (un peu comme DeepSeek gratuit dans OpenCode). Il n’y a pas de poids pour l’instant, donc impossible de le faire tourner en local comme Reflection Beam.

FAQ

Mercury 3 est-il gratuit ?

En partie. Le chat dans le navigateur est accessible tout de suite et, d’après l’annonce, un nouveau compte sur l’API Inception reçoit 100 millions de tokens gratuits. Ensuite, nous payons 0,20 USD par million de tokens en entrée et 0,70 USD par million en sortie (avec 50 % de remise au lancement).

En quoi un LLM par diffusion diffère-t-il d’un LLM classique ?

Un modèle classique écrit la réponse token par token. Un modèle de diffusion génère et corrige de nombreux tokens à la fois, c’est pourquoi il peut être beaucoup plus rapide.

Qui a créé Mercury 3 ?

Inception (Inception Labs), la startup derrière toute la famille Mercury. Le premier était Mercury Coder, un modèle pour la programmation décrit dans un rapport de juin 2025 (parmi ses auteurs figure notamment Stefano Ermon).