Claude wechselt beim KI-Training das Modell? Doktorand kritisiert Anthropic

Jiahao Shao, Informatik-Doktorand in Hongkong, schrieb am 31. Oktober auf X, Anthropic habe ihn wegen „Training eines Konkurrenten“ (im Original „training a competitor“) markiert. Seitdem habe Claude das Modell gewechselt oder alles blockiert, was mit RFT, SFT oder dem Training größerer Modelle zu tun hat. Sein Beitrag landete auf der Startseite von Hacker News und sammelte dort über 250 Punkte und mehr als 130 Kommentare.

Was ist eigentlich passiert?

Dass Claude bei der Arbeit an KI das Modell wechselt oder eine Aufgabe blockiert, ist eine dokumentierte Schutzmaßnahme. Ob Shao zu Recht darunter gefallen ist, wissen wir bisher nur aus seiner eigenen Darstellung.

Shao schreibt, er habe Claude nie destilliert. Ihm zufolge stammten die sogenannten „Rollouts“ für das Training aus einem starken Open-Source-Modell, und Claude habe nur geholfen, Jobs abzuschicken und Ergebnisse auszuwerten. Trotzdem bekam er das Etikett „Training eines Konkurrenten“, und sein Beitrag beginnt mit „Shame on @DarioAmodei / Anthropic“.

Anthropic hat sich bis zum Zeitpunkt dieses Artikels nicht öffentlich zu dem Fall geäußert. Im Hacker-News-Thread hat sich auch niemand aus dem Unternehmen zu Wort gemeldet.

Warum wechselt Claude das Modell?

Hier haben wir belastbare Quellen. In der Ankündigung von Claude Opus 5.5 heißt es, es sei das erste Opus-Modell mit Schutzmaßnahmen ähnlich denen von Fable 5.1, und blockierte Aufgaben aus der Biologie und der sogenannten „frontier LLM development“ habe in Tests Claude Opus 5 übernommen. Die Details beschreibt ein Artikel im Claude-Hilfecenter. Es gibt vier Kategorien:

1. Cybersicherheit: offensive Aufgaben (z. B. Exploits schreiben, Penetrationstests) wandern von Opus 5 oder 5.5 zu Opus 4.8. Sicheres Programmieren und das Scannen des eigenen Codes funktionieren weiterhin.
2. Biologie: Bei „Dual-Use“-Aufgaben (Virologie, Toxikologie, Moleküldesign) wechselt Opus 5.5 zu Opus 5.
3. Frontier LLM development (nur Opus 5.5): Ein schmaler Satz an Fähigkeiten, etwa das Schreiben von Kerneln für bestimmte ML-Beschleuniger, endet ebenfalls mit einem Wechsel zu Opus 5. Laut dem Artikel sollte das die meiste Arbeit mit KI und ML nicht betreffen.
4. Destillation: Versuche, das interne Reasoning des Modells herauszuziehen, werden sofort blockiert, ohne Wechsel zu einem anderen Modell.

Dazu kommen die Nutzungsrichtlinien von Anthropic, die verbieten, Antworten von Claude ohne Zustimmung des Unternehmens zum Training von KI-Modellen zu verwenden (genannt werden „model scraping“ und „model distillation“). Die aktuelle Fassung tritt am 12. November 2026 in Kraft.

Warum sorgt das für so viel Aufsehen?

Weil Shao ein Forscher ist und keine anonyme Account-Farm. Wie ein Kommentator schreibt: Zu erforschen, wie man bessere KI baut, ist immer noch Forschung und keine kommerzielle Tätigkeit.

Der zweite Grund: Andere Nutzer beschreiben ähnliche Situationen. In den Kommentaren schreibt jemand, Fable habe sich geweigert, einen Backup-Ordner durchzusehen, und wollte zu einem älteren Opus wechseln. Jemand anderes berichtet, Claude Code habe eine Übergabedatei für eine Aufgabe nicht speichern wollen, weil es darin „Extraktion“ vermutete. Mehrere Leute klagen außerdem über übereifrige Klassifikatoren bei der Arbeit an Hypervisoren und Treibern.

Der dritte Grund: Das ist innerhalb weniger Tage schon der nächste Fall, in dem die Regeln von Claude Nutzer überraschen, nach der Sperre für Spiele-Klone in Claude Code.

Stimmt hier etwas nicht?

Erstens kennen wir nur eine Seite. Wir wissen nicht, welche Anfragen Shao konkret geschickt hat und wie das „Etikett“ aussieht, von dem er schreibt. Ein Kommentator vermutet, dass die Nutzung eines VPN in Hongkong eine Rolle gespielt hat, ein anderer antwortet, die Schutzmaßnahmen prüften keine IP-Adressen. Beide Theorien sollten wir mit Vorsicht genießen.

Zweitens ist die offizielle Beschreibung der Schutzmaßnahmen enger als das, was Shao schildert. Laut Hilfecenter umfasst die Schutzmaßnahme für „frontier LLM development“ „einen kleinen Satz an Fähigkeiten“, und Destillation bedeutet, das Reasoning des Modells herauszuziehen. Alles zu blockieren, was SFT oder RFT berührt, wäre also deutlich breiter, als das Unternehmen angibt, und das verlangt wohl nach einer Erklärung von Anthropic.

Drittens sind manche dieser Ablehnungen kostenpflichtig. Laut Hilfecenter werden Ablehnungen vor der Generierung einer Antwort bei Biologie, Destillation und „frontier LLM development“ berechnet, und die Antwort des Ersatzmodells kostet nach dessen Tarif.

Worauf sollte man achten?

Wer mit Hilfe von Claude am Training von Modellen arbeitet, sollte ein paar Optionen aus dem Hilfecenter kennen:

1. Nach einem Modellwechsel die vorherige Nachricht bearbeiten, bevor man zu Opus 5.5 zurückkehrt, denn dieselben Schutzmaßnahmen können erneut greifen.
2. Unter Settings > Capabilities lässt sich „Switch models when a message is flagged“ abschalten. Dann hält die Unterhaltung an, statt das Modell zu wechseln, und man entscheidet selbst, wie es weitergeht.
3. Fehlerhafte Sperren meldet man über „Send feedback“.
4. In der API ist der automatische Wechsel standardmäßig nicht aktiv, Fallbacks konfiguriert man selbst.

(Ein Verifizierungsprogramm gibt es für Cybersicherheit und Lebenswissenschaften, für ML-Forscher nennt das Hilfecenter keines.)

FAQ

Warum hat Claude in meiner Unterhaltung das Modell gewechselt?

Weil die Klassifikatoren von Opus 5 oder 5.5 die Anfrage als riskant eingestuft haben (Cybersicherheit, Biologie oder „frontier LLM development“) und Claude sie auf einem schwächeren Modell erneut ausgeführt hat. In der Unterhaltung erscheint dann ein Hinweis auf den Wechsel.

Kann Claude beim Training von KI-Modellen helfen?

Laut Hilfecenter sollte die Schutzmaßnahme die meiste Arbeit mit KI und ML nicht betreffen. Verboten ist, Modelle ohne Zustimmung von Anthropic mit Antworten von Claude zu trainieren, und schmale Kategorien wie Kernel für ML-Beschleuniger wechseln zu Opus 5.

Kann man den Modellwechsel in Claude abschalten?

Ja, unter Settings > Capabilities mit der Option „Switch models when a message is flagged“. Eine blockierte Anfrage wandert dann nicht zu einem anderen Modell, sondern die Unterhaltung hält an.