Inkling 2 Small: el modelo MoE de 594B de Thinking Machines

El 5 de noviembre, Thinking Machines Lab, la empresa de Mira Murati, presentó Inkling 2 Small, el primer modelo de su segunda generación. Inkling 2 Small es un modelo MoE (mixture of experts) con 594.000 millones de parámetros, de los que 17.000 millones están activos. Acepta imágenes y ya funciona en Tinker, y los pesos completos con licencia Apache 2.0 llegarán «la semana que viene».

¿Qué trae de nuevo Inkling 2 Small?

Thinking Machines lanzó sus primeros modelos abiertos, Inkling e Inkling-Small, en julio. La segunda generación trae tres novedades de las que más se habla:

1. Imágenes como entrada. El modelo tiene un codificador de visión de 292 millones de parámetros (basado en Perception Encoder) y, según el anuncio, puede revisar a partir de una imagen su propio resultado visual, por ejemplo una página web generada. No admite audio.
2. «Effort» ajustable: podemos decidir cuánto piensa el modelo en una tarea. La empresa ejecutó las pruebas en el nivel «xhigh».
3. Tareas de programación largas. El modelo se entrenó con RL en tareas largas de código, evaluadas no solo con tests unitarios sino también con agentes evaluadores. Según Thinking Machines, sigue mejor las instrucciones y revisa su propio trabajo con más rigor que el primer Inkling.

Curiosamente, la empresa también dice que Inkling 2 Small aprende más rápido con fine-tuning que sus modelos anteriores con los mismos datos. Encaja con Tinker, que es precisamente una plataforma de fine-tuning.

¿Qué tal le va en los benchmarks?

En el Artificial Analysis Intelligence Index el modelo obtiene 31 puntos. Otros resultados del anuncio:

1. SWEBench Pro v2 (Hard): 86,3 %
2. DeepSWE v1.1: 72,1 %
3. Vibe Code Bench v1.1: 81,6 %
4. MMMU Pro (comprensión de imágenes): 81,6 %

Son mediciones de la propia Thinking Machines, así que tomémoslas con cautela. A su favor, la empresa no presume de ganar en todo: en parte de las tablas otros modelos abiertos salen mejor, y en las pruebas de alineamiento Inkling 2 Small queda por detrás de los modelos cerrados, según el anuncio.

¿Por qué se habla tanto de él?

Primero, pesos abiertos desde EE. UU. En el debate de Hacker News se repite la idea de que los laboratorios estadounidenses están alcanzando a los chinos en modelos de pesos abiertos (tras Kimi K3.1 Pro y Tencent Hy4), y un comentarista escribe que puede ser el primer modelo estadounidense «good enough» para la mayor parte del trabajo intelectual.

Segundo, el ritmo. Entre el primer Inkling y la segunda generación han pasado menos de cuatro meses.

Tercero, el precio. En Tinker, generar cuesta 1 USD por millón de tokens, y los tokens de entrada (prefill), 0,30 USD por millón (0,03 USD desde caché). El fine-tuning cuesta 1,50 USD por millón de tokens con contexto de 64K y 3 USD con 256K (precios de Tinker). Aun así, en los comentarios hubo quien dijo que el coste por tarea sale más alto que con DeepSeek.

¿En qué hay que fijarse?

Primero, en la fecha de los pesos. Por ahora no están disponibles. La empresa los promete para «la semana que viene», tras pruebas de seguridad externas y red teaming, sin un día concreto. Thinking Machines describió este proceso en julio en la entrada «A safe path to open weights»: los primeros Inkling los probaron, entre otros, Scale AI, FAR.AI y Apollo Research.

Segundo, en los puntos débiles que la propia empresa reconoce: el modelo es menos conciso, cuando tiene muchas skills disponibles a veces elige una herramienta poco adecuada, formatea peor las respuestas en el chat y responde con advertencias exageradas a preguntas sobre salud mental.

Tercero, en la honestidad en tareas difíciles. El anuncio dice que los primeros checkpoints a veces se inventaban resultados u ocultaban sus acciones en tareas difíciles. La empresa añadió, entre otras cosas, una recompensa por alineamiento en el RL, pero conviene vigilar qué informa el modelo cuando trabaja como agente.

¿Cómo probar Inkling 2 Small?

Lo más sencillo es el Tinker Playground, donde podemos chatear con el modelo y, a través de la API de Tinker, también hacerle fine-tuning. Llegará a otras plataformas «en las próximas semanas», y los detalles técnicos están en la ficha del modelo.

Cuando se publiquen los pesos, con 594.000 millones de parámetros será más bien tarea para un servidor con varias GPU que para un portátil (más sobre hardware en la guía para ejecutar IA en local).

Preguntas frecuentes

¿Inkling 2 Small tiene pesos abiertos?

Todavía no. Thinking Machines anuncia la publicación de los pesos completos con licencia Apache 2.0 la semana que viene, tras pruebas de seguridad externas.

¿Cuánto cuesta Inkling 2 Small?

En Tinker, 1 USD por millón de tokens generados y 0,30 USD por millón de tokens de entrada. El fine-tuning cuesta desde 1,50 USD por millón de tokens.

¿Quién está detrás de Thinking Machines?

Thinking Machines Lab es una empresa fundada por Mira Murati, ex CTO de OpenAI. Inkling 2 Small es su segunda generación de modelos, tras Inkling e Inkling-Small de julio.