Samodoskonalenie AI tuż-tuż? Anthropic ostrzega w prospekcie

2 listopada Anthropic złożył w SEC poprawiony prospekt S-1/A, a w czynnikach ryzyka napisał, że samodoskonalenie AI może być bliżej, niż się wydawało. Według wewnętrznych szacunków firmy i jej oczekiwań wobec przyszłych modeli Anthropic może lada moment osiągnąć próg, który jego własna polityka bezpieczeństwa wiąże z samodoskonaleniem AI. Zwrócił na to uwagę TechCrunch.

Co dokładnie napisał Anthropic?

Kluczowy fragment prospektu mówi, że firma „może wkrótce” spełnić definicję z Responsible Scaling Policy (RSP), czyli „radykalnie przyspieszonego postępu, który można przypisać AI” (cytując „dramatically accelerated progress attributable to AI”). Od razu dodaje jednak kilka zastrzeżeń:

1. żaden z obecnych modeli nie został uznany za przekraczający ten próg, a firma nadal analizuje dane,
2. ocena dotyczy przyszłych modeli, nie tych, z których korzystamy dziś,
3. Anthropic przyznaje, że dowody na przyspieszenie to głównie wskaźniki opóźnione, więc w przeszłości zauważał skok tempa dopiero po fakcie i może się to powtórzyć,
4. firma zapowiada kolejne raporty, tak jak przewiduje RSP.

W innym miejscu prospektu czytamy też, że Anthropic nie spodziewa się, by mógł bezpiecznie pozwolić Claude’owi w pełni autonomicznie projektować i budować kolejne generacje modeli „bez znaczącego nadzoru lub zrozumienia ze strony ludzi”. Dlatego rozważa zmiany w RSP, które mają utrzymać ludzi w kontroli nad rozwojem modeli. Jakie to zmiany, na razie nie wiadomo.

Czym jest samodoskonalenie AI?

Chodzi o tzw. „rekurencyjne samodoskonalenie” (RSI, recursive self-improvement): sytuację, w której AI wykonuje tak dużą część pracy nad kolejnym modelem, że każda generacja przyspiesza powstanie następnej. Prospekt używa wprost tego terminu i nazywa budowanie lepszej AI za pomocą AI „poważnym ryzykiem dla bezpieczeństwa”, zwłaszcza gdy mocno przyspiesza tempo postępu.

W RSP ten próg nazywa się progiem „automatyzacji badań i rozwoju AI”. Według historii zmian RSP w wersji 3.1 z kwietnia Anthropic podał przykład skali: skompresowanie dwóch lat postępu AI z okresu 2018–2024 w jeden rok, przy czym chodzi o tempo rozwoju możliwości AI jako całości, a nie o wydajność pojedynczych badaczy. W lipcu, w wersji 3.4, firma ten próg jeszcze doprecyzowała.

Jak bardzo Claude już buduje Claude’a?

Bardzo. Liczby z tego samego prospektu:

1. we wrześniu 2026 ponad 90% zmian w kodzie Anthropic napisał Claude,
2. w III kwartale 2026 przeciętny inżynier wnosił dziennie ponad 45 razy więcej kodu niż w 2024 roku,
3. na wewnętrznych zadaniach inżynierskich bez jasnej specyfikacji skuteczność Claude’a wzrosła do około 90% we wrześniu, o około 50 punktów procentowych w dziewięć miesięcy (według wewnętrznych benchmarków firmy),
4. wartość wewnętrznego użycia Claude’a liczona po cenach katalogowych wzrosła ponad 250 razy między styczniem a wrześniem 2026, a w kwietniu po raz pierwszy przekroczyła miesięczne koszty osobowe firmy (bez wynagrodzeń w akcjach).

Innymi słowy, tokeny, które Anthropic zużywa sam, warte są po cenach katalogowych więcej niż wszystkie pensje w firmie. W prospekcie czytamy, że każda wersja Claude’a pomaga budować następną, a moc obliczeniowa przeznaczona na użytek wewnętrzny „stale przyspiesza” tempo rozwoju.

Czy to coś nowego w świecie AI?

Sam temat nie. W czerwcu Anthropic opublikował esej „When AI builds itself”, w którym pisał, że w maju ponad 80% kodu scalanego w firmie pochodziło od Claude’a, ale że do samodoskonalenia jeszcze nie doszło („We are not there yet”). Zaproponował tam też opcję spowolnienia lub czasowego wstrzymania rozwoju modeli, pod warunkiem że inne laboratoria zrobią to samo w sposób możliwy do sprawdzenia.

Nowe jest to, gdzie i jak to napisano. Tym razem to nie esej, tylko prospekt złożony w SEC, a sformułowanie zmieniło się z „jeszcze nie” na „możemy lada moment”. Co ciekawe, w tym samym czasie inne laboratoria pokazują, jak modele zaczynają grzebać w innych modelach: wczoraj pisałem o tym, jak GPT-6 Astra naprawił wagi Qwena, a wcześniej o Recursive Flint, przy którego budowie według firmy pomagał automatyczny system badawczy.

Na co zwrócić uwagę?

Po pierwsze, na kontekst. To czynnik ryzyka w prospekcie przed debiutem giełdowym, a jak zauważa TechCrunch, sceptycy uważają, że S-1 to po części materiał marketingowy. Na Hacker News równolegle dużą uwagę zebrał tekst Matta Scherera z Open Markets Institute, który apeluje do SEC o wstrzymanie IPO Anthropic, m.in. z powodu nieaudytowanych wyników za 2026 rok. O samych liczbach z prospektu pisałem przy okazji przychodów Anthropic za III kwartał.

Po drugie, na zmiany w RSP. Zapowiedź, że ludzie mają zachować kontrolę nad rozwojem modeli, brzmi dobrze, ale konkretów na razie nie ma. Warto obserwować, czy nowe zasady faktycznie coś ograniczą, czy tylko opiszą to, co już się dzieje.

Po trzecie, na przyznanie się do ślepej plamki. Firma sama pisze, że może zauważyć przyspieszenie dopiero po fakcie. Dla nas oznacza to szybsze kolejne modele (co oczywiście cieszy), ale też ryzyko, że zabezpieczenia nie nadążą za możliwościami.

FAQ

Czy Claude już się sam doskonali?

Nie w sensie pełnego samodoskonalenia. Według prospektu żaden obecny model nie przekroczył progu z RSP, choć Claude pisze już ponad 90% zmian w kodzie Anthropic i pomaga budować kolejne wersje.

Co to jest RSI w AI?

RSI (recursive self-improvement) to rekurencyjne samodoskonalenie AI: model, który przyspiesza budowę swojego następcy, a ten z kolei jeszcze bardziej przyspiesza budowę kolejnego.

Czym jest Responsible Scaling Policy?

To polityka Anthropic, która określa progi możliwości modeli i zabezpieczenia wymagane po ich przekroczeniu. Jednym z progów jest automatyzacja badań i rozwoju AI, o której mowa w prospekcie.

Kiedy Anthropic przekroczy ten próg?

Tego firma nie podaje. W prospekcie pisze tylko, że może to nastąpić „wkrótce” (cytując „imminently”) i że opublikuje kolejne raporty zgodnie z RSP.