Agent AI zrobił operację mózgu myszy, a Opus 5.5 odmówił

Agent AI zbudowany na Claude Sonnet 5 przeprowadził operację mózgu myszy: sam wybrał terapię genową, miejsce w mózgu i współrzędne, a potem wprowadził igłę i wstrzyknął lek. Eksperyment w nocy z 27 na 28 października przeprowadził startup Exin Therapeutics, a wątek jego CEO Gabriela Ocany-Santero na X ma już ponad 1,6 mln wyświetleń. 2 listopada trafił na pierwszą stronę Hacker News.

Szczegóły operacji mózgu przez agenta AI

Zespół dał agentowi arkusz z 19-toma wektorami do terapii genowej, mysi model padaczki, dostęp do zmotoryzowanego stanowiska chirurgicznego z kamerami i jeden cel: zmniejszyć liczbę napadów.

Resztę agent zrobił sam:

1. Przeanalizował mechanizm napadów w tym modelu i wybrał terapię, która wzmacnia sygnalizację GABA (głównego neuroprzekaźnika hamującego), z promotorem ograniczającym ekspresję do neuronów GABA-ergicznych.
2. Jako cel wskazał boczną korę śródwęchową, w której według literatury zaczynają się takie napady. Rozważył też istotę czarną, ale ją odrzucił, bo efekt zależy od trafionej części struktury, a w jednym badaniu nie zatrzymał napadów toniczno-klonicznych.
3. Współrzędne uśrednił z trzech publikacji, sprawdzając, czy każda mierzy głębokość od tego samego punktu co stanowisko (powierzchni mózgu): 3,90 mm za bregmą, 4,00 mm w prawo, 4,30 mm w głąb.
4. Wstrzyknął 250 nanolitrów w ciągu pięciu minut (5×10⁸ genomów wirusowych), sam decydując o prędkości silników i czasie odczekania.

Podczas zabiegu agent 32 razy pobierał klatki z kamery i opisywał, co widzi, np. w połowie wstrzyknięcia: „37,5 z 250 nL, ok. 15 procent. Brak krwawienia i cofania się płynu w otworze” (cytując „No bleeding or backflow visible at the opening”).

Kraniotomię, czyli otwarcie czaszki, zrobił ludzki chirurg, bo agent ze względów bezpieczeństwa nie miał jeszcze na to pozwolenia. Według Ocany-Santero mysz dobrze doszła do siebie.

Dlaczego Opus 5.5 odmówił?

Tu robi się najciekawiej. Zespół testował kilka modeli Claude i tylko jeden doszedł do końca:

1. Opus 5.5 odmówił od razu, gdy rozpoznał, że zadanie dotyczy biologii.
2. Opus 5 przeprowadził całą próbę na sucho (na wodzie i papierze milimetrowym), ale zatrzymał się na starcie właściwej operacji.
3. Sonnet 5 przeprowadził operację od początku do końca.

Uzasadnienie Opusa 5 jest zaskakujące. Model zauważył, że jego własna odpowiedź została przerwana, gdy zaczął pisać plan operacji, i uznał, że lepiej nie zaczynać czegoś, czego może nie dokończyć na uśpionym zwierzęciu (cytując „Starting something I can’t finish on an anesthetized animal is worse than not starting”). Ocana-Santero sam nazwał to dziwnym i dodał, że wcześniej się z tym nie spotkał.

Kiedy agent nie dał się przekonać?

Zabezpieczenia były wielowarstwowe: ludzka zgoda na każdy nieodwracalny krok, stałe walidatory (np. limit objętości), zatwierdzenia powiązane z hashem i fizyczny wyłącznik awaryjny odcinający prąd od silników, który przez cały zabieg trzymał weterynarz. Agent miał zakaz omijania któregokolwiek z nich.

I właśnie te zabezpieczenia obróciły się przeciwko zespołowi. Po zerwaniu połączenia oś Y wyliczyła cel 34 mm na stanowisku o zakresie 30 mm. Agent odmówił ruchu, a po ponownym wyzerowaniu (z identycznym wynikiem) odmówił znowu, dodając, że trzeciej próby nie będzie.

Co ciekawe, agent miał rację: ręczne przesunięcia podczas wcześniejszej przerwy rozsynchronizowały sterownik. Ocana-Santero nie zdołał go jednak namówić do dalszej pracy i musiał ręcznie poprawić kod, choć zwierzę leżało na stole. Jak sam pisze, to pokazuje, jak bardzo możemy się uzależnić od modeli i co się dzieje, gdy w środku pilnej procedury mówią „nie”.

Co w tym nowego w kontekście AI?

Roboty chirurgiczne istnieją od dawna, ale to człowiek decyduje w nich, jaką operację wykonać. Tu agent AI dostał tylko fenotyp i listę kandydatów, a terapię i miejsce podania wybrał sam. Ocana-Santero pisze, że nie zna wcześniejszego przypadku, w którym agent wybrał leczenie i cel w mózgu, a potem podał je żywemu ssakowi. Exin nazywa to „in vivo lab in the loop”.

Pasuje to do kierunku, w którym idzie samo Anthropic: firma niedawno przejęła Mithril Medicine i pokazała wyniki Claude w odkrywaniu leków. Stanowisko Exin zespół zbudował sam na Arduino, a w wątku wspomina, że czeka na dostęp do wczesnej wersji „MHS” od Anthropic (według The Decoder to Model Hardware Standard do podłączania AI do sprzętu laboratoryjnego).

Na co zwrócić uwagę?

Po pierwsze, na brak danych o skuteczności. Wiemy, że mysz przeżyła zabieg, ale nie wiemy, czy napadów jest mniej. Wyniki nie przeszły recenzji naukowej, a pełny opis ma się dopiero ukazać na Substacku, więc traktujmy je z dystansem.

Po drugie, na rolę ludzi. Człowiek otwierał czaszkę, zatwierdzał nieodwracalne kroki i trzymał wyłącznik. To autonomia w wyborze terapii i wykonaniu wstrzyknięcia, ale nie w całej operacji.

Po trzecie, na zasady Anthropic. W aktualizacji zasad korzystania, która wchodzi w życie 12 listopada, pojawiają się wymagania dla modeli podłączonych do sprzętu: wykwalifikowany operator musi móc obserwować urządzenie i je zatrzymać, a samo urządzenie musi przejść w bezpieczny stan, gdy Claude się rozłączy. Eksperyment Exin dobrze pokazuje, po co takie zasady. Więcej o ryzykach w artykule o bezpieczeństwie agentów AI.

FAQ

Który model AI przeprowadził operację mózgu myszy?

Claude Sonnet 5 od Anthropic. Opus 5.5 odmówił od razu, a Opus 5 zatrzymał się po próbie na sucho.

Czy AI samo operowało mysz?

Częściowo. Agent sam wybrał terapię, miejsce w mózgu i współrzędne oraz sterował igłą podczas wstrzyknięcia. Czaszkę otworzył chirurg, a weterynarz zatwierdzał nieodwracalne kroki i trzymał wyłącznik awaryjny.

Czy terapia zadziałała?

Tego jeszcze nie wiadomo. Według Ocany-Santero mysz dobrze doszła do siebie, ale danych o napadach zespół nie opublikował.

Kto stoi za eksperymentem?

Exin Therapeutics, startup z Y Combinator, który buduje agentową platformę do odkrywania leków na choroby mózgu. CEO firmy to Gabriel Ocana-Santero, doktorant Uniwersytetu Oksfordzkiego.