AIの自己改善は目前？Anthropicが目論見書で警告

11月2日、AnthropicはSECに修正版S-1/A目論見書を提出し、リスク要因の項目で、AIの自己改善が思われていたより近いかもしれないと書きました。社内の推計と将来のモデルへの見通しによれば、Anthropicは自社の安全方針がAIの自己改善と結びつけている閾値に、いつ達してもおかしくないといいます。この点を指摘したのはTechCrunchです。

Anthropicは具体的に何と書いたのか？

目論見書の核心部分は、同社が責任あるスケーリングポリシー（Responsible Scaling Policy、RSP）の定義、つまり「AIに起因する劇的に加速した進歩」（原文は「dramatically accelerated progress attributable to AI」）を「まもなく」満たす可能性がある、というものです。ただし、すぐにいくつかの但し書きが続きます。

1. 現行モデルのうち、この閾値を超えたと判断されたものはない。同社は引き続きデータを分析している。
2. 評価の対象は将来のモデルであり、私たちが今使っているモデルではない。
3. 加速の証拠は主に遅行指標であるため、過去にもペースの急上昇に気づいたのは事後だったとAnthropicは認めており、同じことが繰り返される可能性がある。
4. 同社はRSPの定めに従い、追加の報告を公表するとしている。

目論見書の別の箇所では、Claudeに次世代のモデルを「人間による有意な監督や理解なしに」完全に自律して設計・構築させることを安全に許可できるとは考えていない、とも書かれています。そのため同社は、人間がモデル開発の主導権を握り続けるためのRSP変更を検討しています。どのような変更なのかは、まだ明らかになっていません。

AIの自己改善とは？

いわゆる「再帰的自己改善」（RSI、recursive self-improvement）のことです。AIが次のモデルの開発作業を大きく担うようになり、各世代が次の世代の誕生を加速させていく状態を指します。目論見書はこの用語をそのまま使い、AIを使ってより優れたAIを作ることを、特に進歩のペースを大きく速める場合には「深刻な安全上のリスク」だとしています。

RSPでは、この閾値は「AI研究開発の自動化」と呼ばれています。RSPの更新履歴によると、4月のバージョン3.1でAnthropicはその規模の例として、2018〜2024年のAIの進歩2年分を1年に圧縮することを挙げました。ここで問題になるのは個々の研究者の生産性ではなく、AIの能力全体の進歩のペースです。7月のバージョン3.4では、同社はこの閾値をさらに明確にしました。

ClaudeはすでにどこまでClaudeを作っているのか？

かなりの部分です。同じ目論見書の数字を見てみましょう。

1. 2026年9月、Anthropicのコード変更の90%超をClaudeが書いた。
2. 2026年第3四半期、平均的なエンジニアが1日に生み出すコードは2024年の45倍超だった。
3. 明確な仕様のない社内エンジニアリングタスクで、Claudeの成功率は9月に約90%まで上昇し、9か月で約50ポイント伸びた（同社の社内ベンチマークによる）。
4. 定価ベースで見た社内でのClaude利用の価値は、2026年1月から9月にかけて250倍超に増え、4月には初めて同社の月間人件費（株式報酬を除く）を上回った。

言い換えれば、Anthropicが自ら消費するトークンは、定価で計算すると社内の全給与より価値が高いということです。目論見書には、Claudeの各バージョンが次のバージョンの構築を助けており、社内利用に割り当てられた計算資源が開発のペースを「継続的に加速させている」と書かれています。

これはAI業界で新しい話なのか？

テーマ自体は新しくありません。6月にAnthropicはエッセイ「When AI builds itself」を公開し、5月には社内でマージされたコードの80%超がClaudeによるものだった一方で、自己改善はまだ起きていない（「We are not there yet」）と書いていました。そこでは、他のラボも検証可能な形で同じことをするという条件付きで、モデル開発を減速または一時停止する選択肢も提案していました。

新しいのは、どこにどう書かれたかです。今回はエッセイではなくSECに提出された目論見書であり、表現も「まだだ」から「いつ達してもおかしくない」に変わりました。興味深いことに、同じ時期に他のラボでも、モデルが他のモデルに手を加え始める様子が示されています。昨日はGPT-6 AstraがQwenの重みを修正した話を書き、その前には、同社によると自動化された研究システムが開発を手伝ったRecursive Flintについて書きました。

注目すべき点は？

第一に、文脈です。これは上場前の目論見書に書かれたリスク要因であり、TechCrunchが指摘するように、懐疑派はS-1を一種のマーケティング資料とみています。並行してHacker Newsでは、Open Markets InstituteのMatt SchererがSECにAnthropicのIPOを止めるよう求める記事が大きな注目を集めました。理由の一つは、2026年の業績が監査されていないことです。目論見書の数字そのものについては、Anthropicの第3四半期の売上高の記事で書きました。

第二に、RSPの変更です。人間がモデル開発の主導権を保つという方針は聞こえは良いものの、具体的な内容はまだありません。新しいルールが実際に何かを制限するのか、それとも既に起きていることを記述するだけなのか、注視する価値があります。

第三に、死角があるという告白です。同社自身が、加速に気づくのは事後になるかもしれないと書いています。私たちにとっては、より速く次のモデルが出てくる（もちろん嬉しいことです）一方で、安全対策が能力の伸びに追いつかないリスクも意味します。

よくある質問

Claudeはすでに自己改善しているのか？

完全な自己改善という意味ではしていません。目論見書によれば、現行モデルでRSPの閾値を超えたものはありません。ただしClaudeはすでにAnthropicのコード変更の90%超を書いており、次のバージョンの構築も手伝っています。

AIにおけるRSIとは？

RSI（recursive self-improvement）はAIの再帰的自己改善のことです。モデルが後継モデルの構築を加速し、その後継モデルがさらに次のモデルの構築を一段と加速させる、という仕組みです。

責任あるスケーリングポリシー（RSP）とは？

モデルの能力に関する閾値と、それを超えた場合に必要な安全対策を定めたAnthropicの方針です。その閾値の一つが、目論見書で言及されているAI研究開発の自動化です。

Anthropicはいつこの閾値を超えるのか？

同社は明らかにしていません。目論見書には、それが「まもなく」（原文は「imminently」）起こりうること、そしてRSPに従って追加の報告を公表することが書かれているだけです。