Auto-amélioration de l'IA imminente ? Anthropic alerte dans son prospectus

Le 2 novembre, Anthropic a déposé auprès de la SEC un prospectus S-1/A modifié et, dans les facteurs de risque, a écrit que l’auto-amélioration de l’IA pourrait être plus proche qu’on ne le pensait. D’après ses estimations internes et ce qu’elle attend des futurs modèles, Anthropic pourrait atteindre d’un moment à l’autre le seuil que sa propre politique de sécurité associe à l’auto-amélioration de l’IA. C’est TechCrunch qui l’a relevé.

Qu’a écrit Anthropic exactement ?

Le passage clé indique que l’entreprise « pourrait bientôt » remplir la définition de sa Responsible Scaling Policy (RSP), à savoir un « progrès considérablement accéléré attribuable à l’IA » (en anglais, « dramatically accelerated progress attributable to AI »). Elle ajoute aussitôt plusieurs réserves :

1. aucun des modèles actuels n’a été jugé au-delà de ce seuil, et l’entreprise analyse encore les données,
2. l’évaluation porte sur les modèles futurs, pas sur ceux que nous utilisons aujourd’hui,
3. Anthropic admet que les signes d’accélération sont surtout des indicateurs retardés, et que par le passé elle n’a remarqué les sauts de rythme qu’après coup, ce qui pourrait se reproduire,
4. l’entreprise annonce de nouveaux rapports, comme le prévoit la RSP.

Ailleurs dans le prospectus, Anthropic écrit qu’elle ne s’attend pas à pouvoir laisser Claude concevoir et construire en toute autonomie les générations suivantes de modèles « sans supervision ni compréhension humaine significative ». C’est pourquoi elle envisage des modifications de la RSP destinées à garder les humains aux commandes du développement des modèles. On ne sait pas encore lesquelles.

Qu’est-ce que l’auto-amélioration de l’IA ?

On parle d’« auto-amélioration récursive » (RSI, recursive self-improvement) : une situation où l’IA effectue une si grande part du travail sur le modèle suivant que chaque génération accélère la création de la suivante. Le prospectus emploie ce terme explicitement et qualifie la construction d’une meilleure IA à l’aide de l’IA de « risque grave pour la sécurité », surtout quand elle accélère fortement le rythme des progrès.

Dans la RSP, ce seuil s’appelle « automatisation de la recherche et du développement en IA ». D’après l’historique des modifications de la RSP, dans la version 3.1 d’avril, Anthropic a donné un ordre de grandeur : comprimer en une seule année deux ans de progrès de l’IA de la période 2018–2024, en parlant du rythme de progression des capacités de l’IA dans son ensemble, et non de la productivité de chercheurs pris individuellement. En juillet, dans la version 3.4, l’entreprise a encore précisé ce seuil.

À quel point Claude construit-il déjà Claude ?

Beaucoup. Les chiffres du même prospectus :

1. en septembre 2026, Claude a écrit plus de 90 % des modifications de code chez Anthropic,
2. au troisième trimestre 2026, un ingénieur moyen produisait chaque jour plus de 45 fois plus de code qu’en 2024,
3. sur des tâches d’ingénierie internes sans spécification claire, le taux de réussite de Claude est monté à environ 90 % en septembre, soit environ 50 points de plus en neuf mois (selon les benchmarks internes de l’entreprise),
4. la valeur de l’usage interne de Claude aux prix catalogue a été multipliée par plus de 250 entre janvier et septembre 2026, et a dépassé en avril, pour la première fois, les coûts de personnel mensuels de l’entreprise (hors rémunération en actions).

Autrement dit, les tokens consommés par Anthropic elle-même valent, aux prix catalogue, plus que l’ensemble des salaires de l’entreprise. Le prospectus indique que chaque version de Claude aide à construire la suivante et que la puissance de calcul réservée à l’usage interne « accélère continuellement » le rythme de développement.

Est-ce nouveau dans le monde de l’IA ?

Le sujet, non. En juin, Anthropic a publié l’essai « When AI builds itself », où elle expliquait qu’en mai plus de 80 % du code fusionné dans l’entreprise venait de Claude, mais que l’auto-amélioration n’avait pas encore eu lieu (« We are not there yet »). Elle y proposait aussi l’option de ralentir ou de suspendre temporairement le développement des modèles, à condition que d’autres laboratoires fassent de même de façon vérifiable.

Ce qui est nouveau, c’est où et comment c’est écrit. Cette fois, il ne s’agit pas d’un essai mais d’un prospectus déposé auprès de la SEC, et la formulation est passée de « pas encore » à « d’un moment à l’autre ». Fait intéressant, au même moment, d’autres laboratoires montrent comment des modèles commencent à bricoler d’autres modèles : hier, j’ai écrit sur la façon dont GPT-6 Astra a réparé les poids de Qwen, et auparavant sur Recursive Flint, à la création duquel, selon l’entreprise, un système de recherche automatisé a contribué.

À quoi faire attention ?

D’abord, au contexte. Il s’agit d’un facteur de risque dans un prospectus avant une introduction en Bourse et, comme le note TechCrunch, les sceptiques voient en partie le S-1 comme un document marketing. En parallèle, sur Hacker News, un texte de Matt Scherer, de l’Open Markets Institute, qui demande à la SEC de bloquer l’introduction en Bourse d’Anthropic, notamment en raison de résultats 2026 non audités, a beaucoup fait parler. J’ai abordé les chiffres du prospectus eux-mêmes à propos du chiffre d’affaires d’Anthropic au troisième trimestre.

Ensuite, aux modifications de la RSP. L’annonce selon laquelle les humains garderont le contrôle du développement des modèles sonne bien, mais il n’y a encore rien de concret. Il faudra voir si les nouvelles règles limitent vraiment quelque chose ou se contentent de décrire ce qui se passe déjà.

Enfin, à l’aveu d’un angle mort. L’entreprise écrit elle-même qu’elle pourrait ne remarquer l’accélération qu’après coup. Pour nous, cela signifie des nouveaux modèles plus rapides (ce qui est bien sûr réjouissant), mais aussi le risque que les garde-fous ne suivent pas les capacités.

FAQ

Claude s’améliore-t-il déjà lui-même ?

Pas au sens d’une auto-amélioration complète. Selon le prospectus, aucun modèle actuel n’a franchi le seuil de la RSP, même si Claude écrit déjà plus de 90 % des modifications de code chez Anthropic et aide à construire ses prochaines versions.

Qu’est-ce que la RSI en IA ?

La RSI (recursive self-improvement) est l’auto-amélioration récursive de l’IA : un modèle qui accélère la construction de son successeur, lequel accélère encore davantage la construction du suivant.

Qu’est-ce que la Responsible Scaling Policy ?

C’est la politique d’Anthropic qui fixe des seuils de capacités des modèles et les mesures de sécurité requises une fois ces seuils franchis. L’un d’eux est l’automatisation de la recherche et du développement en IA, dont parle le prospectus.

Quand Anthropic franchira-t-elle ce seuil ?

L’entreprise ne le dit pas. Le prospectus indique seulement que cela pourrait arriver « bientôt » (en anglais, « imminently ») et qu’Anthropic publiera de nouveaux rapports conformément à la RSP.