Un agent IA a opéré le cerveau d’une souris, Opus 5.5 a refusé

Un agent IA construit sur Claude Sonnet 5 a réalisé une chirurgie du cerveau sur une souris : il a choisi seul la thérapie génique, la région du cerveau et les coordonnées, puis a introduit l’aiguille et injecté le produit. L’expérience a eu lieu dans la nuit du 27 au 28 octobre chez la startup Exin Therapeutics, et le fil de son CEO, Gabriel Ocana-Santero, sur X dépasse déjà 1,6 million de vues. Le 2 novembre, il est arrivé en une de Hacker News.

Les détails de la chirurgie du cerveau par l’agent IA

L’équipe a donné à l’agent un tableur de 19 vecteurs de thérapie génique, un modèle murin d’épilepsie, l’accès à un banc chirurgical motorisé équipé de caméras et un seul objectif : réduire le nombre de crises.

L’agent a fait le reste lui-même :

1. Il a analysé le mécanisme des crises dans ce modèle et choisi une thérapie qui renforce la signalisation GABA (le principal neurotransmetteur inhibiteur), avec un promoteur qui limite l’expression aux neurones GABAergiques.
2. Comme cible, il a retenu le cortex entorhinal latéral, où ces crises commencent selon la littérature. Il a aussi envisagé la substance noire, mais l’a écartée, car l’effet dépend de la partie de la structure atteinte et, dans une étude, elle n’a pas arrêté les crises tonico-cloniques.
3. Il a fait la moyenne des coordonnées de trois publications, en vérifiant que chacune mesurait la profondeur depuis le même point de référence que le banc (la surface du cerveau) : 3,90 mm en arrière du bregma, 4,00 mm à droite, 4,30 mm de profondeur.
4. Il a injecté 250 nanolitres en cinq minutes (5×10⁸ génomes viraux), en décidant lui-même de la vitesse des moteurs et du temps d’attente.

Pendant l’intervention, l’agent a récupéré 32 images de la caméra et décrit ce qu’il voyait, par exemple à mi-injection : « 37,5 sur 250 nL, env. 15 %. Pas de saignement ni de reflux à l’ouverture » (en version originale « No bleeding or backflow visible at the opening »).

La craniotomie, c’est-à-dire l’ouverture du crâne, a été faite par un chirurgien humain, car l’agent n’en avait pas encore l’autorisation pour des raisons de sécurité. Selon Ocana-Santero, la souris s’est bien remise.

Pourquoi Opus 5.5 a-t-il refusé ?

C’est là que ça devient le plus intéressant. L’équipe a testé plusieurs modèles Claude et un seul est allé jusqu’au bout :

1. Opus 5.5 a refusé d’emblée dès qu’il a compris que la tâche touchait à la biologie.
2. Opus 5 a mené toute la répétition à blanc (sur de l’eau et du papier millimétré), mais s’est arrêté au début de la vraie opération.
3. Sonnet 5 a mené l’opération du début à la fin.

Le raisonnement d’Opus 5 surprend. Le modèle a remarqué que sa propre réponse avait été coupée quand il a commencé à rédiger le plan opératoire, et en a conclu qu’il valait mieux ne pas commencer quelque chose qu’il risquait de ne pas finir sur un animal anesthésié (en version originale « Starting something I can’t finish on an anesthetized animal is worse than not starting »). Ocana-Santero lui-même a jugé cela étrange et ajouté qu’il n’avait jamais vu ça.

Quand l’agent a-t-il refusé de se laisser convaincre ?

Les garde-fous comptaient plusieurs couches : validation humaine pour chaque étape irréversible, validateurs fixes (comme une limite de volume), validations liées à un hash et un arrêt d’urgence physique coupant le courant des moteurs, qu’un vétérinaire a tenu pendant toute l’intervention. L’agent avait interdiction de contourner l’un d’eux.

Et ce sont justement ces garde-fous qui se sont retournés contre l’équipe. Après une coupure de connexion, l’axe Y a calculé une cible de 34 mm sur un banc d’une course de 30 mm. L’agent a refusé de bouger, puis, après une remise à zéro (au résultat identique), il a refusé de nouveau en ajoutant qu’il n’y aurait pas de troisième tentative.

Fait notable, l’agent avait raison : des déplacements manuels lors d’une pause précédente avaient désynchronisé le contrôleur. Ocana-Santero n’a pourtant pas réussi à le convaincre de continuer et a dû corriger le code à la main pendant que l’animal était sur la table. Comme il l’écrit, cela montre à quel point nous pouvons devenir dépendants des modèles, et ce qui se passe quand ils disent « non » au milieu d’une procédure urgente.

Qu’est-ce que cela change pour l’IA ?

Les robots chirurgicaux existent depuis longtemps, mais c’est un humain qui décide de l’opération qu’ils réalisent. Ici, l’agent IA n’a reçu que le phénotype et une liste de candidats, et a choisi lui-même la thérapie et le site d’injection. Ocana-Santero écrit qu’il ne connaît aucun cas antérieur où un agent a choisi un traitement et une cible dans le cerveau, puis l’a administré à un mammifère vivant. Exin appelle cela « in vivo lab in the loop ».

Cela correspond à la direction que prend Anthropic elle-même : l’entreprise a récemment racheté Mithril Medicine et présenté les résultats de Claude dans la découverte de médicaments. L’équipe a construit elle-même le banc d’Exin sur Arduino, et mentionne dans le fil qu’elle attend l’accès à une première version de « MHS » d’Anthropic (selon The Decoder, il s’agit du Model Hardware Standard, qui sert à connecter l’IA au matériel de laboratoire).

À quoi faire attention ?

D’abord, à l’absence de données d’efficacité. On sait que la souris a survécu à l’intervention, mais pas si elle fait moins de crises. Les résultats n’ont pas été relus par des pairs et la description complète doit encore paraître sur Substack, donc prudence.

Ensuite, au rôle des humains. Un humain a ouvert le crâne, validé les étapes irréversibles et tenu l’arrêt d’urgence. C’est de l’autonomie dans le choix de la thérapie et l’injection, pas dans toute l’opération.

Enfin, aux règles d’Anthropic. La mise à jour de sa politique d’utilisation, qui entre en vigueur le 12 novembre, ajoute des exigences pour les modèles connectés à du matériel : un opérateur qualifié doit pouvoir observer l’appareil et l’arrêter, et l’appareil lui-même doit passer dans un état sûr quand Claude se déconnecte. L’expérience d’Exin montre bien à quoi servent ces règles. Plus d’informations sur les risques dans l’article sur la sécurité des agents IA.

FAQ

Quel modèle d’IA a opéré le cerveau de la souris ?

Claude Sonnet 5, d’Anthropic. Opus 5.5 a refusé d’emblée, et Opus 5 s’est arrêté après la répétition à blanc.

L’IA a-t-elle opéré la souris seule ?

En partie. L’agent a choisi seul la thérapie, la région du cerveau et les coordonnées, et a piloté l’aiguille pendant l’injection. Un chirurgien a ouvert le crâne, et un vétérinaire a validé les étapes irréversibles et tenu l’arrêt d’urgence.

La thérapie a-t-elle fonctionné ?

On ne le sait pas encore. Selon Ocana-Santero, la souris s’est bien remise, mais l’équipe n’a publié aucune donnée sur les crises.

Qui est derrière l’expérience ?

Exin Therapeutics, une startup issue de Y Combinator qui développe une plateforme agentique de découverte de médicaments contre les maladies du cerveau. Son CEO est Gabriel Ocana-Santero, doctorant à l’université d’Oxford.