AI学習でClaudeがモデル切り替え？香港の博士課程学生がAnthropicを批判

香港でコンピュータサイエンスの博士課程に在籍するJiahao Shao氏は、10月31日にXで、Anthropicから「競合の学習」（原文は「training a competitor」）と判定され、それ以来ClaudeがRFTやSFT、大規模モデルの学習に関わるあらゆる作業でモデル切り替えやブロックを行うようになったと投稿しました。この投稿はHacker Newsのトップページに載り、250ポイント以上、130件以上のコメントを集めています。

実際に何が起きたのか？

AI関連の作業中にClaudeがモデルを切り替えたりタスクをブロックしたりするのは、公式に文書化されたセーフガードです。ただし、Shao氏が正当にその対象になったのかどうかは、今のところ本人の説明でしかわかりません。

Shao氏はClaudeを蒸留したことは一度もないと書いています。本人によれば、学習用のいわゆる「ロールアウト」は強力なオープンソースモデルから生成したもので、Claudeはジョブの投入と結果の分析を手伝っただけだといいます。それでも「競合の学習」というラベルを付けられ、投稿は「Shame on @DarioAmodei / Anthropic」という一文で始まっています。

執筆時点で、Anthropicはこの件について公にコメントしていません。Hacker Newsのスレッドにも、同社の関係者は登場していません。

なぜClaudeはモデルを切り替えるのか？

ここには確かな情報源があります。Claude Opus 5.5の発表によると、Opus 5.5はFable 5.1と同様のセーフガードを備えた初めてのOpusモデルで、テストではブロックされた生物学や、いわゆる「frontier LLM development」のタスクをClaude Opus 5が処理していました。詳細はClaudeヘルプセンターの記事にあります。カテゴリは4つです。

1. サイバーセキュリティ：攻撃的なタスク（エクスプロイトの作成、ペネトレーションテストなど）は、Opus 5または5.5からOpus 4.8に切り替わります。セキュアなコーディングや自分のコードのスキャンは引き続き使えます。
2. 生物学：「デュアルユース」のタスク（ウイルス学、毒性学、分子設計）では、Opus 5.5がOpus 5に切り替わります。
3. Frontier LLM development（Opus 5.5のみ）：一部のMLアクセラレータ向けカーネルの作成など、限られたスキルもOpus 5への切り替えになります。記事によると、AIやMLの作業の大半には影響しないはずです。
4. 蒸留：モデルの内部推論を引き出そうとする試みは、別モデルへの切り替えなしに即座にブロックされます。

さらに、Anthropicの利用ポリシーは、同社の許可なくClaudeの出力をAIモデルの学習に使うこと（「model scraping」や「model distillation」と表現）を禁じています。現行版は2026年11月12日に発効します。

なぜこれほど話題になっているのか？

Shao氏が匿名のアカウントファームではなく、研究者だからです。あるコメント投稿者が書いているように、より良いAIの作り方を研究することは、商業活動ではなく研究です。

2つ目の理由は、他のユーザーも似た状況を報告していることです。コメント欄では、Fableがバックアップフォルダの確認を拒否して古いOpusに切り替えようとしたという人や、Claude Codeがタスクの引き継ぎファイルに「抽出」の意図を見いだして保存を拒んだという人もいます。ハイパーバイザーやドライバーの作業で過剰に反応する分類器に不満を持つ人も何人かいます。

3つ目の理由は、Claude Codeでのゲームクローン禁止に続き、数日のうちにまたClaudeのルールがユーザーを驚かせたことです。

何か問題があるのか？

まず、私たちが知っているのは一方の言い分だけです。Shao氏が具体的にどんなリクエストを送ったのか、本人の言う「ラベル」がどんなものなのかはわかりません。あるコメント投稿者は香港でVPNを使っていたことが影響したのではと推測し、別の投稿者はセーフガードはIPアドレスを見ていないと反論しています。どちらの説も慎重に受け止めるべきでしょう。

次に、セーフガードの公式な説明は、Shao氏の説明よりも範囲が狭いことです。ヘルプセンターによれば、「frontier LLM development」のセーフガードは「限られたスキル」が対象で、蒸留とはモデルの推論を引き出すことを指します。SFTやRFTに関わるものをすべてブロックするのであれば、同社の説明よりはるかに広い範囲になり、Anthropicからの説明が必要でしょう。

最後に、こうした拒否の一部は課金対象です。ヘルプセンターによると、生物学、蒸留、「frontier LLM development」で応答生成前に拒否された場合も課金され、代替モデルの応答はそのモデルの料金で請求されます。

注意すべき点は？

Claudeの助けを借りてモデルの学習に取り組んでいるなら、ヘルプセンターにあるいくつかのオプションを知っておくと役立ちます。

1. モデルが切り替わったら、Opus 5.5に戻す前に直前のメッセージを編集しましょう。同じセーフガードが再び作動する可能性があるためです。
2. Settings > Capabilitiesで「Switch models when a message is flagged」をオフにできます。そうすると、モデルが切り替わる代わりに会話が一時停止し、次にどうするかを自分で決められます。
3. 誤ったブロックは**「Send feedback」**から報告します。
4. APIでは自動切り替えはデフォルトで無効で、フォールバックは自分で設定します。

（サイバーセキュリティとライフサイエンス向けには検証プログラムがありますが、ML研究者向けのものはヘルプセンターに記載がありません。）

よくある質問

なぜ会話の途中でClaudeのモデルが切り替わったのか？

Opus 5または5.5の分類器がリクエストをリスクあり（サイバーセキュリティ、生物学、「frontier LLM development」）と判定し、Claudeがそれを性能の低いモデルで再実行したためです。その際、会話には切り替えの通知が表示されます。

ClaudeはAIモデルの学習を手伝えるのか？

ヘルプセンターによれば、セーフガードはAIやMLの作業の大半には影響しないはずです。禁止されているのは、Anthropicの許可なくClaudeの出力でモデルを学習させることで、MLアクセラレータ向けカーネルなどの限られたカテゴリはOpus 5に切り替わります。

Claudeのモデル切り替えはオフにできるのか？

はい、Settings > Capabilitiesの「Switch models when a message is flagged」でオフにできます。その場合、ブロックされたリクエストは別モデルに移らず、会話が一時停止します。