El modelo de difusión Mercury 3 genera 1000 tokens por segundo

El 19 de octubre, Inception publicó Mercury 3, su nuevo modelo insignia para lenguaje. Según el anuncio, el modelo de difusión Mercury 3 genera unos 1068 tokens por segundo en GPU de NVIDIA, tiene una ventana de contexto de 1 millón de tokens y es más de 40 veces más grande (en número de parámetros) que el primer Mercury.

¿Qué trae de nuevo Mercury 3?

Primero, las cifras del post de Inception:

1. Velocidad: unos 1068 tokens por segundo en GPU de NVIDIA.
2. Contexto: 1 millón de tokens, frente a 260 000 en Mercury 2.5.
3. Precio: 0,20 USD por millón de tokens de entrada y 0,70 USD por millón de salida, y los tokens en caché son un 90 % más baratos. Para el lanzamiento hay un descuento del 50 %, es decir, 0,10 y 0,35 USD.
4. Compatible con la API de OpenAI, así que el modelo se puede conectar a herramientas existentes sin reescribir código.

En el mismo post, Inception presenta también Mercury Voice (un modelo para apps de voz, pensado para dar la primera respuesta lo antes posible) y Mercury Decide para clasificación.

Inception compara la calidad de Mercury 3 con los modelos pequeños de los grandes laboratorios, pero no da resultados por benchmark. Por ahora son solo mediciones de la propia empresa, así que dejo esas comparaciones para más adelante, cuando aparezcan pruebas independientes.

¿Qué es un modelo de lenguaje de difusión?

Y esa es la razón por la que se habla de Mercury. Los LLM clásicos (GPT, Claude, Gemini) son autorregresivos: escriben la respuesta token a token, y cada nuevo token depende de los anteriores.

Los modelos de difusión funcionan un poco como los generadores de imágenes. Según el informe técnico del primer Mercury, el modelo se entrena para predecir muchos tokens en paralelo, es decir, genera y corrige varias partes de la respuesta a la vez. De ahí la velocidad: el modelo no tiene que esperar a cada palabra siguiente.

Curiosamente, Inception afirma que las leyes de escalado que impulsaron el progreso de los modelos clásicos también se cumplen en la difusión. Mercury 3 sería la prueba: según la empresa, sus resultados en benchmarks estándar son 3 veces mejores que los del primer Mercury.

¿De verdad es tan bueno Mercury 3?

Ya hay una primera review independiente. Corey Noles, de The Neuron, probó Mercury 3 con ocho prompts a través de OpenRouter, por un total de 0,04 USD. Donde mejor salió fue en programación: el modelo escribió en un solo archivo HTML un juego completo tipo dungeon crawler, y 2000 pruebas aleatorias de generación de mapas no encontraron ni un solo error.

Los puntos débiles también aparecieron enseguida:

1. Un relato debía tener 250 palabras, pero tuvo unas 274 y se alejó del escenario pedido.
2. En una prueba de alucinaciones, el modelo rechazó una misión de la NASA inventada, pero añadió un error factual sin relación.
3. Parte de las explicaciones pecaba de exceso de confianza.

Noles no midió por su cuenta los 1068 tokens por segundo anunciados (escribe que la API «felt fast») y resume el modelo como un «genuinely exciting model at a startling price». Así que tomemos la velocidad y la calidad con cautela hasta ver pruebas más amplias.

¿Cómo probar Mercury 3?

Tenemos varias opciones:

1. Chat en el navegador: chat.inceptionlabs.ai.
2. API de Inception: platform.inceptionlabs.ai, según el anuncio con 100 millones de tokens gratis para empezar.
3. OpenRouter, Baseten y Vercel, donde el modelo está disponible como inception/mercury-3 (en OpenRouter).

Con estos precios y esta velocidad, es un candidato interesante para un harness de agentes, donde el tiempo de respuesta cuenta en bucles largos (algo parecido a DeepSeek gratis en OpenCode). Por ahora no hay pesos, así que no podremos ejecutarlo en local como Reflection Beam.

FAQ

¿Mercury 3 es gratis?

En parte. El chat en el navegador está disponible al momento y, según el anuncio, una cuenta nueva en la API de Inception recibe 100 millones de tokens gratis. Después pagamos 0,20 USD por millón de tokens de entrada y 0,70 USD por millón de salida (con un 50 % de descuento al principio).

¿En qué se diferencia un LLM de difusión de uno normal?

Un modelo normal escribe la respuesta token a token. Un modelo de difusión genera y corrige muchos tokens a la vez, por eso puede ser mucho más rápido.

¿Quién creó Mercury 3?

Inception (Inception Labs), la startup detrás de toda la familia Mercury. El primero fue Mercury Coder, un modelo para programar descrito en un informe de junio de 2025 (entre sus autores está Stefano Ermon).