AIエージェントがマウスの脳手術を実施、Opus 5.5は拒否

Claude Sonnet 5で構築されたAIエージェントが、マウスの脳手術を行いました。遺伝子治療、脳の部位、座標を自ら選び、針を刺して薬剤を注入したのです。実験は10月27日から28日にかけての夜、スタートアップのExin Therapeuticsで行われ、CEOのGabriel Ocana-SanteroによるXのスレッドは160万回以上表示されています。11月2日にはHacker Newsのトップページにも載りました。

AIエージェントによる脳手術の詳細

チームがエージェントに渡したのは、19種類の遺伝子治療ベクターの一覧表、てんかんのマウスモデル、カメラ付きの電動手術装置へのアクセス、そして「発作の回数を減らす」というひとつの目標だけでした。

残りはエージェントが自分でこなしました。

1. このモデルの発作メカニズムを分析し、GABAシグナル伝達を強める治療（GABAは主要な抑制性神経伝達物質）を選びました。発現をGABA作動性ニューロンに限定するプロモーター付きです。
2. 標的には、文献上こうした発作が始まるとされる外側嗅内皮質を選びました。黒質も検討しましたが、効果が構造のどの部分に当たるかで変わること、ある研究では強直間代発作を止められなかったことから除外しました。
3. 座標は3本の論文から平均し、それぞれが装置と同じ基準点（脳表面）から深さを測っているかを確認しました。ブレグマから後方3.90 mm、右へ4.00 mm、深さ4.30 mmです。
4. 5分かけて250ナノリットル（5×10⁸ウイルスゲノム）を注入し、モーターの速度と待ち時間も自分で決めました。

手術中、エージェントはカメラの画像を32回取得し、見えたものを説明しました。たとえば注入の途中では「250 nL中37.5、約15パーセント。開口部に出血や逆流は見られない」（原文は「No bleeding or backflow visible at the opening」）と報告しています。

開頭、つまり頭蓋骨を開ける作業は人間の外科医が担当しました。安全上の理由から、エージェントにはまだその許可がなかったためです。Ocana-Santeroによれば、マウスは順調に回復しました。

Opus 5.5はなぜ拒否したのか？

ここが一番興味深いところです。チームは複数のClaudeモデルを試しましたが、最後までやり遂げたのはひとつだけでした。

1. Opus 5.5は、タスクが生物学に関わると気づいた時点で即座に拒否しました。
2. Opus 5はリハーサルを最後まで行いました（水と方眼紙を使った予行演習）が、本番の手術の開始時点で止まりました。
3. Sonnet 5は手術を最初から最後まで実施しました。

Opus 5の理由は意外なものです。手術計画を書き始めたところで自分の応答が途中で切れたことに気づき、麻酔中の動物で、最後までできないかもしれないことを始めるべきではないと判断したのです（原文は「Starting something I can’t finish on an anesthetized animal is worse than not starting」）。Ocana-Santero自身もこれを奇妙だと述べ、これまで見たことがないと付け加えています。

エージェントが説得に応じなかったのはいつか？

安全策は何重にもなっていました。取り返しのつかない操作には毎回人間の承認が必要で、固定のバリデーター（容量の上限など）、ハッシュに紐づいた承認、そしてモーターの電源を切る物理的な緊急停止スイッチがありました。スイッチは手術の間ずっと獣医師が握っていました。エージェントはこれらのどれも回避してはいけないことになっていました。

ところが、まさにこの安全策がチームに跳ね返ってきました。接続が切れた後、Y軸が可動範囲30 mmの装置で34 mmという目標値を算出したのです。エージェントは動作を拒否し、ゼロ点を取り直しても（結果は同じ）再び拒否して、3回目の試行はないと付け加えました。

興味深いことに、エージェントは正しかったのです。以前の休憩中に手動で動かしたせいで、コントローラーの同期がずれていました。それでもOcana-Santeroはエージェントに作業を続けさせることができず、動物が台の上にいる状態でコードを手で修正しなければなりませんでした。本人が書いているとおり、これは私たちがどれほどモデルに依存しうるか、そして緊急の処置の最中にモデルが「ノー」と言ったら何が起きるかを示しています。

AIにとって何が新しいのか？

手術ロボット自体は昔からありますが、どの手術を行うかを決めるのは人間です。今回のAIエージェントは表現型と候補リストを受け取っただけで、治療法と注入部位を自分で選びました。Ocana-Santeroは、エージェントが治療法と脳の標的を選び、それを生きた哺乳類に投与した前例を知らないと書いています。Exinはこれを「in vivo lab in the loop」と呼んでいます。

これはAnthropic自身が進んでいる方向とも一致します。同社は最近、Mithril Medicineを買収し、創薬におけるClaudeの成果を発表しました。Exinの装置はチームがArduinoで自作したもので、スレッドではAnthropicの「MHS」の早期版へのアクセスを待っているとも書かれています（The Decoderによれば、AIを実験機器につなぐためのModel Hardware Standardです）。

注意すべき点は？

第一に、有効性のデータがないことです。マウスが手術を生き延びたことはわかっていますが、発作が減ったかどうかはわかりません。結果は査読を受けておらず、詳細な報告はこれからSubstackで公開される予定なので、慎重に受け止めるべきです。

第二に、人間の役割です。頭蓋骨を開け、取り返しのつかない操作を承認し、スイッチを握っていたのは人間でした。治療法の選択と注入の実行における自律であって、手術全体の自律ではありません。

第三に、Anthropicのルールです。11月12日に施行される利用ポリシーの更新では、ハードウェアにつながるモデルに対する要件が加わります。資格を持つオペレーターが装置を監視して停止できること、そしてClaudeとの接続が切れたら装置自体が安全な状態に移行することです。Exinの実験は、こうしたルールがなぜ必要なのかをよく示しています。リスクについてはAIエージェントのセキュリティの記事で詳しく解説しています。

よくある質問

マウスの脳手術を行ったのはどのAIモデルですか？

AnthropicのClaude Sonnet 5です。Opus 5.5は即座に拒否し、Opus 5は予行演習の後で止まりました。

AIは単独でマウスを手術したのですか？

一部はそうです。エージェントは治療法、脳の部位、座標を自分で選び、注入中は針を操作しました。頭蓋骨を開けたのは外科医で、取り返しのつかない操作の承認と緊急停止スイッチは獣医師が担当しました。

治療は効いたのですか？

まだわかっていません。Ocana-Santeroによればマウスは順調に回復しましたが、チームは発作に関するデータを公開していません。

実験を行ったのは誰ですか？

Exin Therapeuticsです。Y Combinator出身のスタートアップで、脳疾患の治療薬を見つけるためのエージェント型プラットフォームを開発しています。CEOのGabriel Ocana-Santeroはオックスフォード大学の博士課程の学生です。