Rekurencyjne samodoskonalenie: Anthropic uznał próg za osiągnięty

W prospekcie datowanym na 10 listopada Anthropic napisał, że uznał za osiągnięty swój próg automatyzacji badań i rozwoju AI. To próg z Responsible Scaling Policy (RSP), który według tej polityki ma wychwycić początek, cytując, „dramatic recursive self-improvement”, czyli rekurencyjne samodoskonalenie. Jeszcze 2 listopada w tym samym miejscu prospektu było napisane, że firma może ten próg osiągnąć „wkrótce”. Zmianę wychwycił Yahoo Finance.

Co dokładnie zmieniło się w prospekcie?

Jedno zdanie w czynnikach ryzyka. Nowa wersja mówi, że firma ustaliła, iż osiągnęła próg, na podstawie tego, czego oczekuje od przyszłych modeli i ogólnego tempa postępu, a nie tego, co zaobserwowała w obecnych modelach (cytując „we made a determination that we have met this threshold based on what we expect from future models and our overall rate of progress, rather than on what we have observed from current models”).

To rozróżnienie ma znaczenie. Próg w RSP obejmuje sytuację, w której firma przyspieszenie „obserwuje lub go oczekuje” („observe or expect”), więc do jego osiągnięcia wystarcza prognoza. Anthropic nie twierdzi zatem, że Fable 5.2 czy Mythos 5.2 już same się ulepszają. Twierdzi, że biorąc pod uwagę to, co widzi w środku, spodziewa się takiego tempa.

Dalej w prospekcie czytamy, że firma nadal analizuje dane, ocenia skutki osiągnięcia progu i opublikuje kolejne raporty. O poprzedniej wersji tego fragmentu pisałem w tekście o samodoskonaleniu AI w prospekcie Anthropic.

Rekurencyjne samodoskonalenie według RSP

W RSP w wersji 3.4, obowiązującej od 8 lipca, próg jest osiągnięty w jednym z dwóch przypadków:

1. modele są w stanie w pełni zastąpić wszystkich badaczy i inżynierów badawczych firmy przy konkurencyjnych kosztach (w granicach pięciokrotności),
2. następuje „dramatyczne przyspieszenie” postępu AI, czyli firma obserwuje lub oczekuje podwojenia tempa wzrostu możliwości AI, a jest prawdopodobne, że to podwojenie w znacznej mierze wynika z automatyzacji badań i inżynierii.

Sformułowanie z prospektu („observe or expect”) pochodzi z drugiego przypadku. Chodzi więc o tempo, a nie o zastąpienie ludzi. W historii zmian dołączonej do tej samej wersji RSP Anthropic przyznaje zresztą, że próg ma wychwycić początek rekurencyjnego samodoskonalenia i że trudno go przełożyć na konkretne pomiary.

Co na to METR?

Pięć dni przed nową wersją prospektu, 5 listopada, organizacja METR opublikowała dwie niezależne oceny. W pierwszej, dotyczącej października 2026, szacuje, że wewnętrzne modele firmy poprawiają się od października 2025 1,9 razy szybciej niż wcześniej (95-procentowy przedział ufności: 1,5–2,8). Autorzy zgadują, że około 80% tego przyspieszenia to zasługa AI, i są pewni, że nie wynika ono z szybszego skalowania mocy obliczeniowej do treningu.

Druga to recenzja sierpniowego raportu ryzyka, w którym Anthropic przekonywał, że progu jeszcze nie przekroczył. METR uznał ten argument za przesadzony („overstated”) i napisał, że próg dwukrotnego przyspieszenia mógł zostać przekroczony już do 15 lipca, a publiczna wersja raportu zaniża skalę przyspieszenia.

Te liczby traktujmy z dystansem, bo METR zaznacza, że w publicznej wersji Anthropic zaczernił większość dowodów, które organizacja uznała za najbardziej przekonujące, a do niewydanych modeli nie miała ona bezpośredniego dostępu. Dla porównania: u pozostałych czołowych laboratoriów METR widzi przyspieszenie mniejsze, około 1,4 raza.

Na co zwrócić uwagę?

Po pierwsze, na brak konkretów. Prospekt nie podaje, jakie zabezpieczenia uruchamia osiągnięcie progu. Wymienia tylko to, co firma robiła dotąd, czyli opóźnianie premier i ograniczanie dostępu do modeli (jak przy Mythos w Project Glasswing), oraz ostrzega, że takie kroki mogą być częstsze i droższe. Na stronie z aktualizacjami RSP ostatni wpis pochodzi z 14 sierpnia, więc na dziś, 12 listopada, tę decyzję znamy wyłącznie z dokumentu dla inwestorów.

Po drugie, na kalendarz. Według strony IPO cena ma zostać ustalona 18 listopada, a notowania mają ruszyć dzień później. Czynnik ryzyka w prospekcie to także zabezpieczenie prawne spółki, o czym warto pamiętać, czytając go tydzień przed debiutem (o widełkach pisałem przy cenie akcji Anthropic).

Po trzecie, na zdanie o utracie wglądu. W prospekcie czytamy, że im mocniej Anthropic opiera się na Claude, tym bardziej organizacja może tracić wgląd w część procesów w sposób trudny do zrozumienia i kontrolowania przez jakąkolwiek osobę lub grupę ludzi. Dla nas oznacza to szybsze kolejne modele (Fable 5.2 wyszedł trzy dni temu), ale też ryzyko, że pierwszą reakcją na próg będą wolniejsze premiery i węższy dostęp.

FAQ

Czy Claude już sam się doskonali?

Nie w pełni autonomicznie. Według prospektu ponad 90% wkładu do kodu Anthropic we wrześniu 2026 napisał Claude, ale firma nie spodziewa się, by mogła bezpiecznie pozwolić mu samodzielnie projektować i budować kolejne modele bez znaczącego nadzoru ludzi.

Czy obecne modele przekroczyły próg?

Tego prospekt nie mówi. Decyzja opiera się na oczekiwaniach wobec przyszłych modeli i ogólnym tempie postępu, a nie na obserwacjach obecnych modeli.

Co się zmieni po osiągnięciu progu?

Na razie nie wiadomo. Anthropic pisze, że ocenia skutki, zapowiada kolejne raporty i rozważa zmiany w RSP, które mają utrzymać ludzi w kontroli nad rozwojem modeli.