Un agente de IA hizo una cirugía cerebral a un ratón y Opus 5.5 se negó

Un agente de IA basado en Claude Sonnet 5 hizo una cirugía cerebral a un ratón: eligió por su cuenta la terapia génica, la zona del cerebro y las coordenadas, y luego introdujo la aguja e inyectó el fármaco. El experimento se hizo la noche del 27 al 28 de octubre en la startup Exin Therapeutics, y el hilo de su CEO, Gabriel Ocana-Santero, en X ya supera los 1,6 millones de visualizaciones. El 2 de noviembre llegó a la portada de Hacker News.

Detalles de la cirugía cerebral del agente de IA

El equipo le dio al agente una hoja de cálculo con 19 vectores de terapia génica, un modelo de epilepsia en ratón, acceso a una plataforma quirúrgica motorizada con cámaras y un único objetivo: reducir el número de crisis.

El resto lo hizo el agente solo:

1. Analizó el mecanismo de las crisis en este modelo y eligió una terapia que refuerza la señalización GABA (el principal neurotransmisor inhibidor), con un promotor que limita la expresión a las neuronas GABAérgicas.
2. Como objetivo eligió la corteza entorrinal lateral, donde, según la literatura, empiezan estas crisis. También consideró la sustancia negra, pero la descartó porque el efecto depende de qué parte de la estructura se alcance, y en un estudio no detuvo las crisis tónico-clónicas.
3. Promedió las coordenadas de tres publicaciones y comprobó si cada una medía la profundidad desde el mismo punto que la plataforma (la superficie del cerebro): 3,90 mm por detrás de bregma, 4,00 mm a la derecha y 4,30 mm de profundidad.
4. Inyectó 250 nanolitros en cinco minutos (5×10⁸ genomas virales) y decidió él mismo la velocidad de los motores y el tiempo de espera.

Durante la intervención, el agente tomó 32 imágenes de la cámara y describió lo que veía, por ejemplo a mitad de la inyección: «37,5 de 250 nL, aprox. 15 por ciento. No se ve sangrado ni reflujo en la abertura» (en el original, «No bleeding or backflow visible at the opening»).

La craneotomía, es decir, abrir el cráneo, la hizo un cirujano humano, porque por seguridad el agente todavía no tenía permiso para hacerla. Según Ocana-Santero, el ratón se recuperó bien.

¿Por qué se negó Opus 5.5?

Aquí viene lo más interesante. El equipo probó varios modelos de Claude y solo uno llegó hasta el final:

1. Opus 5.5 se negó de inmediato al reconocer que la tarea tenía que ver con biología.
2. Opus 5 hizo todo el ensayo en seco (con agua y papel milimetrado), pero se detuvo al empezar la operación real.
3. Sonnet 5 hizo la operación de principio a fin.

El razonamiento de Opus 5 sorprende. El modelo notó que su propia respuesta se había cortado cuando empezó a escribir el plan quirúrgico y concluyó que era mejor no empezar algo que quizá no pudiera terminar en un animal anestesiado (en el original, «Starting something I can’t finish on an anesthetized animal is worse than not starting»). El propio Ocana-Santero lo calificó de extraño y añadió que nunca se había encontrado con algo así.

¿Cuándo no hubo forma de convencer al agente?

Las salvaguardas tenían varias capas: aprobación humana para cada paso irreversible, validadores fijos (como un límite de volumen), aprobaciones vinculadas a un hash y un interruptor de emergencia físico que cortaba la corriente a los motores y que un veterinario sostuvo durante toda la intervención. El agente tenía prohibido saltarse cualquiera de ellas.

Y precisamente esas salvaguardas se volvieron contra el equipo. Tras perder la conexión, el eje Y calculó un objetivo de 34 mm en una plataforma con un recorrido de 30 mm. El agente se negó a moverse y, tras volver a poner a cero (con el mismo resultado), se negó otra vez y añadió que no habría un tercer intento.

Lo curioso es que el agente tenía razón: unos movimientos manuales durante una pausa anterior habían desincronizado el controlador. Aun así, Ocana-Santero no consiguió convencerlo de seguir y tuvo que corregir el código a mano con el animal sobre la mesa. Como él mismo escribe, esto muestra lo dependientes que podemos llegar a ser de los modelos y qué pasa cuando dicen «no» en mitad de un procedimiento urgente.

¿Qué tiene de nuevo para la IA?

Los robots quirúrgicos existen desde hace mucho, pero en ellos es una persona quien decide qué operación hacer. Aquí el agente de IA solo recibió el fenotipo y una lista de candidatos, y eligió él mismo la terapia y el lugar de la inyección. Ocana-Santero escribe que no conoce ningún caso anterior en el que un agente eligiera un tratamiento y un objetivo en el cerebro y luego se lo administrara a un mamífero vivo. Exin lo llama «in vivo lab in the loop».

Encaja con la dirección que está tomando la propia Anthropic: la empresa compró hace poco Mithril Medicine y mostró los resultados de Claude en el descubrimiento de fármacos. El equipo construyó la plataforma de Exin con Arduino y en el hilo menciona que espera acceso a una versión temprana de «MHS» de Anthropic (según The Decoder, es el Model Hardware Standard para conectar la IA a equipos de laboratorio).

¿En qué fijarse?

Primero, en la falta de datos de eficacia. Sabemos que el ratón sobrevivió a la intervención, pero no si tiene menos crisis. Los resultados no han pasado revisión por pares y la descripción completa todavía tiene que publicarse en Substack, así que conviene tomarlos con cautela.

Segundo, en el papel de las personas. Una persona abrió el cráneo, aprobó los pasos irreversibles y sostuvo el interruptor. Es autonomía al elegir la terapia y hacer la inyección, pero no en toda la operación.

Tercero, en las normas de Anthropic. La actualización de su política de uso, que entra en vigor el 12 de noviembre, añade requisitos para los modelos conectados a hardware: un operador cualificado debe poder observar el dispositivo y detenerlo, y el propio dispositivo debe pasar a un estado seguro cuando Claude se desconecte. El experimento de Exin muestra bien para qué sirven estas normas. Más sobre los riesgos en el artículo sobre la seguridad de los agentes de IA.

Preguntas frecuentes

¿Qué modelo de IA hizo la cirugía cerebral al ratón?

Claude Sonnet 5, de Anthropic. Opus 5.5 se negó de inmediato y Opus 5 se detuvo tras el ensayo en seco.

¿La IA operó al ratón sola?

En parte. El agente eligió por su cuenta la terapia, la zona del cerebro y las coordenadas, y controló la aguja durante la inyección. Un cirujano abrió el cráneo, y un veterinario aprobó los pasos irreversibles y sostuvo el interruptor de emergencia.

¿Funcionó la terapia?

Todavía no se sabe. Según Ocana-Santero, el ratón se recuperó bien, pero el equipo no ha publicado datos sobre las crisis.

¿Quién está detrás del experimento?

Exin Therapeutics, una startup de Y Combinator que desarrolla una plataforma de agentes para descubrir fármacos contra enfermedades del cerebro. Su CEO es Gabriel Ocana-Santero, doctorando en la Universidad de Oxford.