Un agente AI ha operato il cervello di un topo, Opus 5.5 ha rifiutato

Un agente AI basato su Claude Sonnet 5 ha eseguito una chirurgia al cervello di un topo: ha scelto da solo la terapia genica, la regione del cervello e le coordinate, poi ha inserito l’ago e iniettato il farmaco. L’esperimento si è svolto nella notte tra il 27 e il 28 ottobre presso la startup Exin Therapeutics, e il thread del suo CEO Gabriel Ocana-Santero su X ha già superato 1,6 milioni di visualizzazioni. Il 2 novembre è finito in prima pagina su Hacker News.

I dettagli della chirurgia al cervello fatta dall’agente AI

Il team ha dato all’agente un foglio di calcolo con 19 vettori per terapia genica, un modello murino di epilessia, l’accesso a una postazione chirurgica motorizzata con telecamere e un solo obiettivo: ridurre il numero di crisi.

Il resto l’agente l’ha fatto da solo:

1. Ha analizzato il meccanismo delle crisi in questo modello e ha scelto una terapia che potenzia la segnalazione GABA (il principale neurotrasmettitore inibitorio), con un promotore che limita l’espressione ai neuroni GABAergici.
2. Come bersaglio ha indicato la corteccia entorinale laterale, dove secondo la letteratura iniziano queste crisi. Ha considerato anche la substantia nigra, ma l’ha scartata, perché l’effetto dipende dalla parte della struttura colpita e in uno studio non ha fermato le crisi tonico-cloniche.
3. Ha fatto la media delle coordinate di tre pubblicazioni, verificando che ciascuna misurasse la profondità dallo stesso punto della postazione (la superficie del cervello): 3,90 mm dietro il bregma, 4,00 mm a destra, 4,30 mm di profondità.
4. Ha iniettato 250 nanolitri in cinque minuti (5×10⁸ genomi virali), decidendo da solo la velocità dei motori e il tempo di attesa.

Durante l’intervento l’agente ha acquisito 32 fotogrammi dalla telecamera e ha descritto ciò che vedeva, per esempio a metà iniezione: «37,5 su 250 nL, circa 15 per cento. Nessun sanguinamento né reflusso nel foro» (in originale «No bleeding or backflow visible at the opening»).

La craniotomia, cioè l’apertura del cranio, l’ha fatta un chirurgo umano, perché per motivi di sicurezza l’agente non aveva ancora il permesso di farla. Secondo Ocana-Santero, il topo si è ripreso bene.

Perché Opus 5.5 ha rifiutato?

Qui arriva la parte più interessante. Il team ha provato diversi modelli Claude e solo uno è arrivato fino in fondo:

1. Opus 5.5 ha rifiutato subito, appena ha capito che il compito riguardava la biologia.
2. Opus 5 ha fatto tutta la prova a secco (con acqua e carta millimetrata), ma si è fermato all’inizio dell’operazione vera.
3. Sonnet 5 ha eseguito l’operazione dall’inizio alla fine.

La motivazione di Opus 5 sorprende. Il modello ha notato che la sua stessa risposta era stata interrotta quando aveva iniziato a scrivere il piano operatorio, e ha concluso che era meglio non iniziare qualcosa che forse non avrebbe finito su un animale anestetizzato (in originale «Starting something I can’t finish on an anesthetized animal is worse than not starting»). Lo stesso Ocana-Santero l’ha definito strano e ha aggiunto di non averlo mai visto prima.

Quando l’agente non si è lasciato convincere?

Le protezioni erano a più livelli: approvazione umana per ogni passaggio irreversibile, validatori fissi (come un limite di volume), approvazioni legate a un hash e un interruttore d’emergenza fisico che toglieva corrente ai motori, tenuto in mano da un veterinario per tutto l’intervento. All’agente era vietato aggirarne anche solo una.

E sono state proprio queste protezioni a ritorcersi contro il team. Dopo un’interruzione della connessione, l’asse Y ha calcolato un bersaglio di 34 mm su una postazione con una corsa di 30 mm. L’agente si è rifiutato di muoversi e, dopo un nuovo azzeramento (con risultato identico), ha rifiutato di nuovo, aggiungendo che non ci sarebbe stato un terzo tentativo.

Curiosamente, l’agente aveva ragione: alcuni spostamenti manuali durante una pausa precedente avevano desincronizzato il controller. Ocana-Santero però non è riuscito a convincerlo a proseguire e ha dovuto correggere il codice a mano mentre l’animale era sul tavolo. Come scrive lui stesso, questo mostra quanto possiamo diventare dipendenti dai modelli e cosa succede quando dicono «no» nel mezzo di una procedura urgente.

Cosa c’è di nuovo per l’AI?

I robot chirurgici esistono da tempo, ma è un essere umano a decidere quale operazione eseguono. Qui l’agente AI ha ricevuto solo il fenotipo e una lista di candidati, e ha scelto da solo la terapia e il punto di iniezione. Ocana-Santero scrive di non conoscere casi precedenti in cui un agente abbia scelto un trattamento e un bersaglio nel cervello e poi lo abbia somministrato a un mammifero vivo. Exin lo chiama «in vivo lab in the loop».

Si inserisce nella direzione presa dalla stessa Anthropic: l’azienda ha da poco acquisito Mithril Medicine e mostrato i risultati di Claude nella scoperta di farmaci. Il team ha costruito da sé la postazione di Exin su Arduino, e nel thread dice di essere in attesa dell’accesso a una prima versione di «MHS» di Anthropic (secondo The Decoder, si tratta del Model Hardware Standard per collegare l’AI alle apparecchiature di laboratorio).

A cosa fare attenzione?

Primo, alla mancanza di dati sull’efficacia. Sappiamo che il topo è sopravvissuto all’intervento, ma non se ha meno crisi. I risultati non sono stati sottoposti a revisione paritaria e la descrizione completa deve ancora uscire su Substack, quindi vanno presi con cautela.

Secondo, al ruolo delle persone. Un essere umano ha aperto il cranio, approvato i passaggi irreversibili e tenuto l’interruttore. È autonomia nella scelta della terapia e nell’esecuzione dell’iniezione, ma non nell’intera operazione.

Terzo, alle regole di Anthropic. L’aggiornamento delle norme di utilizzo, in vigore dal 12 novembre, introduce requisiti per i modelli collegati all’hardware: un operatore qualificato deve poter osservare il dispositivo e fermarlo, e il dispositivo stesso deve passare a uno stato sicuro quando Claude si disconnette. L’esperimento di Exin mostra bene a cosa servono queste regole. Approfondimento sui rischi nell’articolo sulla sicurezza degli agenti AI.

FAQ

Quale modello di AI ha eseguito la chirurgia al cervello del topo?

Claude Sonnet 5 di Anthropic. Opus 5.5 ha rifiutato subito, e Opus 5 si è fermato dopo la prova a secco.

L’AI ha operato il topo da sola?

In parte. L’agente ha scelto da solo la terapia, la regione del cervello e le coordinate, e ha guidato l’ago durante l’iniezione. Il cranio l’ha aperto un chirurgo, mentre un veterinario ha approvato i passaggi irreversibili e tenuto l’interruttore d’emergenza.

La terapia ha funzionato?

Non si sa ancora. Secondo Ocana-Santero il topo si è ripreso bene, ma il team non ha pubblicato dati sulle crisi.

Chi c’è dietro l’esperimento?

Exin Therapeutics, una startup di Y Combinator che sviluppa una piattaforma ad agenti per scoprire farmaci contro le malattie del cervello. Il CEO è Gabriel Ocana-Santero, dottorando all’Università di Oxford.