Claude przełącza model przy treningu AI? Doktorant oskarża Anthropic

Jiahao Shao, doktorant informatyki z Hongkongu, napisał 31 października na X, że Anthropic oznaczył go za „trenowanie konkurenta” (cytując „training a competitor”) i że od tej pory Claude blokuje mu wszystko, co dotyka RFT, SFT albo trenowania większych modeli. Jego wpis trafił na pierwszą stronę Hacker News, gdzie zebrał ponad 250 punktów i ponad 130 komentarzy.

Co się właściwie stało?

To, że Claude przełącza model albo blokuje zadanie przy pracy nad AI, jest udokumentowanym zabezpieczeniem. Czy Shao trafił pod nie słusznie, wiemy na razie tylko z jego relacji.

Shao pisze, że nigdy nie destylował Claude. Według niego tzw. „rollouty” do treningu pochodziły z mocnego modelu open source, a Claude tylko pomagał wysyłać zadania i analizować wyniki. Mimo to dostał etykietę „trenowania konkurenta”, a wpis zaczyna od „Shame on @DarioAmodei / Anthropic”.

Anthropic do momentu pisania nie odniósł się do sprawy publicznie. W wątku na Hacker News nie wypowiedział się też nikt z firmy.

Dlaczego Claude przełącza model?

Tu mamy twarde źródła. W ogłoszeniu Claude Opus 5.5 czytamy, że to pierwszy model Opus z zabezpieczeniami podobnymi do tych z Fable 5.1, a zablokowane zadania z biologii i tzw. „frontier LLM development” wykonywał w testach Claude Opus 5. Szczegóły opisuje artykuł w centrum pomocy Claude. Są cztery kategorie:

1. Cyberbezpieczeństwo: ofensywne zadania (np. pisanie exploitów, testy penetracyjne) przechodzą z Opus 5 lub 5.5 na Opus 4.8. Bezpieczne programowanie i skanowanie własnego kodu dalej działa.
2. Biologia: Opus 5.5 przy zadaniach „podwójnego zastosowania” (wirusologia, toksykologia, projektowanie cząsteczek) przełącza się na Opus 5.
3. Frontier LLM development (tylko Opus 5.5): wąski zestaw umiejętności, np. pisanie kerneli dla niektórych akceleratorów ML, też kończy się przejściem na Opus 5. Według artykułu nie powinno to dotykać większości pracy z AI i ML.
4. Destylacja: próby wyciągnięcia wewnętrznego rozumowania modelu są blokowane od razu, bez przełączania na inny model.

Do tego dochodzą zasady korzystania z usług Anthropic, które zabraniają używania odpowiedzi Claude do trenowania modeli AI (cytując „model scraping” albo „model distillation”) bez zgody firmy. Obecna wersja ma datę wejścia w życie 12 listopada 2026.

Dlaczego jest o tym głośno?

Bo Shao to badacz, a nie anonimowa farma kont. Jak pisze jeden z komentujących, badanie, jak budować lepsze AI, to nadal badania, a nie działalność komercyjna.

Drugi powód: inni użytkownicy opisują podobne sytuacje. W komentarzach ktoś pisze, że Fable odmówił przejrzenia folderu z kopią zapasową i chciał przejść na starszego Opusa, ktoś inny, że Claude Code nie chciał zapisać pliku przekazania zadania, bo dopatrzył się w nim „ekstrakcji”. Kilka osób skarży się też na zbyt nadgorliwe klasyfikatory przy pracy nad hypervisorami i sterownikami.

Trzeci powód: to kolejna w ciągu kilku dni sprawa, w której reguły Claude zaskakują użytkowników, po blokadzie klonów gier w Claude Code.

Czy jest coś nie tak?

Po pierwsze, znamy tylko jedną stronę. Nie wiemy, jakie konkretnie zapytania wysyłał Shao ani jak wygląda „etykieta”, o której pisze. Jeden z komentujących podejrzewa, że znaczenie miało korzystanie z VPN w Hongkongu, inny odpowiada, że zabezpieczenia nie sprawdzają IP. Traktujmy obie teorie z dystansem.

Po drugie, oficjalny opis zabezpieczeń jest węższy niż to, co opisuje Shao. Według centrum pomocy zabezpieczenie dla „frontier LLM development” obejmuje „mały zestaw umiejętności”, a destylacja to wyciąganie rozumowania modelu. Blokowanie wszystkiego, co dotyka SFT czy RFT, byłoby więc znacznie szersze, niż firma deklaruje, i to chyba wymaga wyjaśnienia ze strony Anthropic.

Po trzecie, część tych odmów jest płatna. Według centrum pomocy odmowy przed wygenerowaniem odpowiedzi przy biologii, destylacji i „frontier LLM development” są naliczane, a odpowiedź modelu zastępczego kosztuje według jego stawek.

Na co zwrócić uwagę?

Jeśli pracujemy nad trenowaniem modeli z pomocą Claude, warto znać kilka opcji z centrum pomocy:

1. Po przełączeniu modelu edytujmy poprzednią wiadomość, zanim wrócimy do Opus 5.5, bo te same zabezpieczenia mogą zadziałać ponownie.
2. W Settings > Capabilities można wyłączyć „Switch models when a message is flagged”. Wtedy zamiast przełączenia rozmowa się zatrzymuje i sami decydujemy, co dalej.
3. Błędne blokady zgłaszamy przez „Send feedback”.
4. W API automatyczne przełączanie nie jest domyślnie włączone, fallbacki konfigurujemy sami.

(Program weryfikacji istnieje dla cyberbezpieczeństwa i nauk o życiu, dla badaczy ML centrum pomocy żadnego nie wymienia.)

FAQ

Dlaczego Claude przełączył model w mojej rozmowie?

Bo klasyfikatory Opus 5 lub 5.5 oznaczyły zapytanie jako ryzykowne (cyberbezpieczeństwo, biologia albo „frontier LLM development”), a Claude wykonał je ponownie na słabszym modelu. W rozmowie pojawia się wtedy informacja o zmianie.

Czy Claude może pomagać przy trenowaniu modeli AI?

Według centrum pomocy zabezpieczenie nie powinno dotykać większości pracy z AI i ML. Zakazane jest trenowanie modeli na odpowiedziach Claude bez zgody Anthropic, a wąskie kategorie, jak kernele dla akceleratorów ML, przechodzą na Opus 5.

Czy można wyłączyć przełączanie modelu w Claude?

Tak, w Settings > Capabilities opcją „Switch models when a message is flagged”. Zablokowane zapytanie nie przejdzie wtedy na inny model, tylko zatrzyma rozmowę.