Auto-miglioramento dell'IA imminente? Anthropic avverte nel prospetto

Il 2 novembre Anthropic ha depositato presso la SEC un prospetto S-1/A modificato e, tra i fattori di rischio, ha scritto che l’auto-miglioramento dell’IA potrebbe essere più vicino del previsto. In base alle stime interne dell’azienda e alle sue aspettative sui modelli futuri, Anthropic potrebbe raggiungere da un momento all’altro la soglia che la sua stessa politica di sicurezza collega all’auto-miglioramento dell’IA. Lo ha fatto notare TechCrunch.

Che cosa ha scritto esattamente Anthropic?

Il passaggio chiave dice che l’azienda «potrebbe presto» soddisfare la definizione della sua Responsible Scaling Policy (RSP), cioè un «progresso drasticamente accelerato attribuibile all’IA» (in originale «dramatically accelerated progress attributable to AI»). Subito dopo aggiunge però alcune precisazioni:

1. nessuno dei modelli attuali è stato ritenuto oltre questa soglia, e l’azienda sta ancora analizzando i dati,
2. la valutazione riguarda i modelli futuri, non quelli che usiamo oggi,
3. Anthropic ammette che le prove dell’accelerazione sono soprattutto indicatori ritardati, quindi in passato si è accorta dei salti di ritmo solo a posteriori, e potrebbe succedere di nuovo,
4. l’azienda annuncia ulteriori report, come previsto dalla RSP.

Altrove nel prospetto si legge che Anthropic non prevede di poter consentire in sicurezza a Claude di progettare e costruire in modo del tutto autonomo le prossime generazioni di modelli «senza una supervisione o una comprensione umana significativa». Per questo sta valutando modifiche alla RSP per mantenere le persone al controllo dello sviluppo dei modelli. Di quali modifiche si tratti, per ora non si sa.

Che cos’è l’auto-miglioramento dell’IA?

Si parla del cosiddetto «auto-miglioramento ricorsivo» (RSI, recursive self-improvement): una situazione in cui l’IA svolge una parte così grande del lavoro sul modello successivo che ogni generazione accelera la nascita della seguente. Il prospetto usa esplicitamente questo termine e definisce la costruzione di un’IA migliore con l’aiuto dell’IA un «grave rischio per la sicurezza», soprattutto quando accelera molto il ritmo del progresso.

Nella RSP questa soglia si chiama «automazione della ricerca e sviluppo sull’IA». Secondo lo storico delle modifiche della RSP, nella versione 3.1 di aprile Anthropic ha dato un’idea della scala: comprimere in un solo anno due anni di progresso dell’IA del periodo 2018–2024, intendendo il ritmo di sviluppo delle capacità dell’IA nel suo complesso e non la produttività dei singoli ricercatori. A luglio, nella versione 3.4, l’azienda ha precisato ulteriormente la soglia.

Quanto Claude sta già costruendo Claude?

Molto. I numeri dello stesso prospetto:

1. a settembre 2026 Claude ha scritto oltre il 90% delle modifiche al codice di Anthropic,
2. nel terzo trimestre 2026 un ingegnere medio contribuiva ogni giorno con oltre 45 volte più codice rispetto al 2024,
3. nelle attività di ingegneria interne senza una specifica chiara, il tasso di successo di Claude è salito a circa il 90% a settembre, con un aumento di circa 50 punti percentuali in nove mesi (secondo i benchmark interni dell’azienda),
4. il valore dell’uso interno di Claude a prezzi di listino è cresciuto di oltre 250 volte tra gennaio e settembre 2026 e ad aprile ha superato per la prima volta i costi mensili del personale dell’azienda (esclusi i compensi in azioni).

In altre parole, i token che Anthropic consuma da sola valgono, a prezzi di listino, più di tutti gli stipendi dell’azienda. Nel prospetto si legge che ogni versione di Claude aiuta a costruire la successiva e che la potenza di calcolo destinata all’uso interno «accelera continuamente» il ritmo di sviluppo.

È una novità nel mondo dell’IA?

Il tema in sé no. A giugno Anthropic ha pubblicato il saggio «When AI builds itself», in cui scriveva che a maggio oltre l’80% del codice integrato in azienda proveniva da Claude, ma che l’auto-miglioramento non era ancora avvenuto («We are not there yet»). Proponeva anche l’opzione di rallentare o sospendere temporaneamente lo sviluppo dei modelli, a condizione che altri laboratori facessero lo stesso in modo verificabile.

La novità è dove e come è stato scritto. Questa volta non si tratta di un saggio, ma di un prospetto depositato presso la SEC, e la formulazione è passata da «non ancora» a «potremmo esserci a momenti». Curiosamente, nello stesso periodo altri laboratori mostrano come i modelli inizino a mettere le mani su altri modelli: ieri ho scritto di come GPT-6 Astra abbia riparato i pesi di Qwen, e prima ancora di Recursive Flint, alla cui creazione, secondo l’azienda, ha contribuito un sistema di ricerca automatizzato.

A cosa fare attenzione?

Primo, al contesto. Si tratta di un fattore di rischio in un prospetto che precede la quotazione in Borsa e, come osserva TechCrunch, gli scettici ritengono che l’S-1 sia in parte materiale di marketing. Nel frattempo su Hacker News ha attirato molta attenzione un testo di Matt Scherer dell’Open Markets Institute che chiede alla SEC di bloccare l’IPO di Anthropic, tra l’altro per i risultati 2026 non certificati. Dei numeri del prospetto ho scritto a proposito dei ricavi di Anthropic del terzo trimestre.

Secondo, alle modifiche della RSP. L’annuncio che le persone manterranno il controllo sullo sviluppo dei modelli suona bene, ma per ora mancano i dettagli. Vale la pena osservare se le nuove regole limiteranno davvero qualcosa o si limiteranno a descrivere ciò che sta già accadendo.

Terzo, all’ammissione di un punto cieco. L’azienda stessa scrive che potrebbe accorgersi dell’accelerazione solo a posteriori. Per noi significa nuovi modelli più veloci (il che ovviamente fa piacere), ma anche il rischio che le misure di sicurezza non tengano il passo con le capacità.

FAQ

Claude si sta già migliorando da solo?

Non nel senso di un auto-miglioramento completo. Secondo il prospetto nessun modello attuale ha superato la soglia della RSP, anche se Claude scrive già oltre il 90% delle modifiche al codice di Anthropic e aiuta a costruire le sue prossime versioni.

Che cos’è la RSI nell’IA?

La RSI (recursive self-improvement) è l’auto-miglioramento ricorsivo dell’IA: un modello che accelera la costruzione del suo successore, il quale a sua volta accelera ancora di più la costruzione del successivo.

Che cos’è la Responsible Scaling Policy?

È la politica di Anthropic che definisce le soglie di capacità dei modelli e le misure di sicurezza richieste una volta superate. Una di queste soglie è l’automazione della ricerca e sviluppo sull’IA, di cui parla il prospetto.

Quando Anthropic supererà questa soglia?

L’azienda non lo dice. Nel prospetto scrive solo che potrebbe accadere «presto» (in originale «imminently») e che pubblicherà ulteriori report in base alla RSP.