Claude a changé de modèle pendant un entraînement IA ? Un doctorant accuse

Jiahao Shao, doctorant en informatique à Hong Kong, a écrit le 31 octobre sur X qu’Anthropic l’avait signalé pour « entraînement d’un concurrent » (en VO : « training a competitor ») et que depuis, Claude a changé de modèle ou lui bloque tout ce qui touche au RFT, au SFT ou à l’entraînement de modèles plus grands. Son post a atteint la page d’accueil de Hacker News, où il a récolté plus de 250 points et plus de 130 commentaires.

Que s’est-il réellement passé ?

Que Claude change de modèle ou bloque une tâche pendant un travail sur l’IA, c’est une protection documentée. Que Shao en ait été la cible à juste titre, nous ne le savons pour l’instant que par son propre récit.

Shao écrit qu’il n’a jamais distillé Claude. Selon lui, les « rollouts » utilisés pour l’entraînement venaient d’un modèle open source performant, et Claude servait seulement à lancer des jobs et à analyser les résultats. Il a pourtant reçu l’étiquette « entraînement d’un concurrent », et son post commence par « Shame on @DarioAmodei / Anthropic ».

Au moment où j’écris, Anthropic ne s’est pas exprimé publiquement sur l’affaire. Personne de l’entreprise n’est intervenu non plus dans le fil Hacker News.

Pourquoi Claude change-t-il de modèle ?

Là, nous avons des sources solides. L’annonce de Claude Opus 5.5 indique que c’est le premier modèle Opus doté de protections semblables à celles de Fable 5.1, et que pendant les tests, les tâches bloquées en biologie et en « frontier LLM development » étaient exécutées par Claude Opus 5. Les détails figurent dans un article du centre d’aide de Claude. Il y a quatre catégories :

1. Cybersécurité : les tâches offensives (p. ex. écriture d’exploits, tests d’intrusion) passent d’Opus 5 ou 5.5 à Opus 4.8. Le développement sécurisé et l’analyse de son propre code fonctionnent toujours.
2. Biologie : face aux tâches « à double usage » (virologie, toxicologie, conception de molécules), Opus 5.5 bascule vers Opus 5.
3. Frontier LLM development (Opus 5.5 uniquement) : un ensemble restreint de compétences, comme l’écriture de kernels pour certains accélérateurs ML, se termine aussi par un passage à Opus 5. Selon l’article, cela ne devrait pas toucher la plupart des travaux en IA et en ML.
4. Distillation : les tentatives d’extraire le raisonnement interne du modèle sont bloquées immédiatement, sans basculer vers un autre modèle.

S’y ajoute la politique d’utilisation d’Anthropic, qui interdit d’utiliser les réponses de Claude pour entraîner des modèles d’IA (elle cite le « model scraping » et la « model distillation ») sans l’accord de l’entreprise. La version actuelle entre en vigueur le 12 novembre 2026.

Pourquoi cela fait-il autant de bruit ?

Parce que Shao est un chercheur, pas une ferme de comptes anonymes. Comme l’écrit un commentateur, chercher comment construire une meilleure IA, cela reste de la recherche, pas une activité commerciale.

Deuxième raison : d’autres utilisateurs décrivent des situations similaires. Dans les commentaires, quelqu’un raconte que Fable a refusé de parcourir un dossier de sauvegarde et voulait passer à un Opus plus ancien ; un autre, que Claude Code n’a pas voulu enregistrer un fichier de passation de tâche parce qu’il y voyait une « extraction ». Plusieurs personnes se plaignent aussi de classificateurs trop zélés lorsqu’elles travaillent sur des hyperviseurs et des pilotes.

Troisième raison : c’est une nouvelle affaire en quelques jours où les règles de Claude surprennent les utilisateurs, après le blocage des clones de jeux dans Claude Code.

Y a-t-il un problème ?

Premièrement, nous ne connaissons qu’une version des faits. Nous ne savons pas quelles requêtes Shao a réellement envoyées ni à quoi ressemble l’« étiquette » dont il parle. Un commentateur soupçonne que l’utilisation d’un VPN à Hong Kong a joué un rôle, un autre répond que les protections ne vérifient pas l’adresse IP. Prenons ces deux théories avec recul.

Deuxièmement, la description officielle des protections est plus étroite que ce que décrit Shao. Selon le centre d’aide, la protection « frontier LLM development » couvre « un petit ensemble de compétences », et la distillation consiste à extraire le raisonnement du modèle. Bloquer tout ce qui touche au SFT ou au RFT serait donc bien plus large que ce que l’entreprise annonce, et cela mériterait sans doute une explication de la part d’Anthropic.

Troisièmement, certains de ces refus sont facturés. Selon le centre d’aide, les refus intervenant avant la génération d’une réponse en biologie, en distillation et en « frontier LLM development » sont comptabilisés, et la réponse du modèle de repli est facturée à ses propres tarifs.

À quoi faut-il faire attention ?

Si vous travaillez sur l’entraînement de modèles avec l’aide de Claude, mieux vaut connaître quelques options du centre d’aide :

1. Après un changement de modèle, modifiez votre message précédent avant de revenir à Opus 5.5, car les mêmes protections peuvent se déclencher à nouveau.
2. Dans Settings > Capabilities, vous pouvez désactiver « Switch models when a message is flagged ». La conversation se met alors en pause au lieu de changer de modèle, et c’est vous qui décidez de la suite.
3. Les blocages erronés se signalent via « Send feedback ».
4. Dans l’API, le changement automatique n’est pas activé par défaut ; les fallbacks se configurent soi-même.

(Un programme de vérification existe pour la cybersécurité et les sciences de la vie ; pour les chercheurs en ML, le centre d’aide n’en mentionne aucun.)

FAQ

Pourquoi Claude a-t-il changé de modèle dans ma conversation ?

Parce que les classificateurs d’Opus 5 ou 5.5 ont jugé la requête risquée (cybersécurité, biologie ou « frontier LLM development ») et que Claude l’a relancée sur un modèle moins puissant. Un message signalant le changement apparaît alors dans la conversation.

Claude peut-il aider à entraîner des modèles d’IA ?

Selon le centre d’aide, la protection ne devrait pas toucher la plupart des travaux en IA et en ML. Ce qui est interdit, c’est d’entraîner des modèles sur les réponses de Claude sans l’accord d’Anthropic, et des catégories étroites, comme les kernels pour accélérateurs ML, basculent vers Opus 5.

Peut-on désactiver le changement de modèle dans Claude ?

Oui, dans Settings > Capabilities, avec l’option « Switch models when a message is flagged ». Une requête bloquée ne passera alors pas à un autre modèle : la conversation se met simplement en pause.