训练AI时Claude切换模型？香港博士生指责Anthropic

香港计算机科学博士生Jiahao Shao 10月31日在X上发文称，Anthropic将他标记为“训练竞争对手”（原文为“training a competitor”），此后凡是涉及RFT、SFT或训练更大模型的工作，Claude都会切换模型或直接拦截。这条帖子登上了Hacker News首页，获得了250多分和130多条评论。

到底发生了什么？

在AI相关工作中Claude切换模型或拦截任务，这是一项有官方文档说明的安全措施。至于Shao是否理应被拦，目前我们只能听他的一面之词。

Shao写道，他从未蒸馏过Claude。据他说，训练用的所谓“rollouts”来自一个强大的开源模型，Claude只是帮忙提交任务和分析结果。即便如此，他还是被贴上了“训练竞争对手”的标签，帖子开头就写着“Shame on @DarioAmodei / Anthropic”。

截至发稿，Anthropic尚未公开回应此事。Hacker News的讨论串里也没有该公司的人出面发言。

Claude为什么会切换模型？

这一点有可靠的来源。Claude Opus 5.5的发布公告写道，它是第一个配备类似Fable 5.1安全措施的Opus模型，在测试中，被拦截的生物学任务以及所谓“frontier LLM development”任务由Claude Opus 5执行。具体细节见Claude帮助中心的文章。共有四类：

1. 网络安全：攻击性任务（如编写漏洞利用代码、渗透测试）会从Opus 5或5.5切换到Opus 4.8。安全编程和扫描自己的代码不受影响。
2. 生物学：遇到“两用”任务（病毒学、毒理学、分子设计）时，Opus 5.5会切换到Opus 5。
3. Frontier LLM development（仅限Opus 5.5）：一小部分技能，例如为某些ML加速器编写kernel，同样会切换到Opus 5。文章称，这不应影响大多数AI和ML工作。
4. 蒸馏：试图提取模型内部推理过程的请求会被直接拦截，不会切换到其他模型。

此外，Anthropic的使用政策禁止在未经公司许可的情况下用Claude的输出训练AI模型（提到了“model scraping”和“model distillation”）。现行版本于2026年11月12日生效。

为什么这件事引起这么大关注？

因为Shao是研究人员，而不是匿名的账号农场。正如一位评论者所说，研究如何构建更好的AI仍然是科研，而不是商业活动。

第二个原因：其他用户也描述了类似遭遇。评论区有人说，Fable拒绝查看一个备份文件夹，还想切换到旧版Opus；另一位说，Claude Code不肯保存一份任务交接文件，因为它从中看出了“提取”的意图。还有几个人抱怨在开发hypervisor和驱动程序时遇到过于敏感的分类器。

第三个原因：继Claude Code禁止克隆游戏之后，这是短短几天内又一起Claude的规则让用户意外的事件。

这里有什么问题吗？

第一，我们只听到了一方的说法。我们不知道Shao具体发送了哪些请求，也不知道他所说的“标签”是什么样子。一位评论者怀疑与他在香港使用VPN有关，另一位则回应说安全措施并不检查IP。这两种说法都应谨慎看待。

第二，安全措施的官方描述比Shao所说的范围窄。根据帮助中心，“frontier LLM development”安全措施只涵盖“一小部分技能”，而蒸馏指的是提取模型的推理过程。如果凡是涉及SFT或RFT的内容都被拦截，那就比公司声明的范围宽得多，这恐怕需要Anthropic出面解释。

第三，部分拒绝是要收费的。根据帮助中心，在生物学、蒸馏和“frontier LLM development”类别中，生成回复之前的拒绝也会计费，而备用模型的回复按其自身价格计费。

需要注意什么？

如果你在Claude的帮助下从事模型训练工作，不妨了解帮助中心提到的几个选项：

1. 模型切换后，在回到Opus 5.5之前先编辑上一条消息，因为同样的安全措施可能再次触发。
2. 在Settings > Capabilities中可以关闭“Switch models when a message is flagged”。这样一来，对话会暂停而不是切换模型，由你自己决定下一步。
3. 误拦截可以通过**“Send feedback”**反馈。
4. 在API中，自动切换默认不开启，备用模型需要自行配置。

（网络安全和生命科学领域有验证计划，但帮助中心没有提到面向ML研究人员的计划。）

常见问题

为什么Claude在我的对话中切换了模型？

因为Opus 5或5.5的分类器将请求判定为有风险（网络安全、生物学或“frontier LLM development”），于是Claude在能力较弱的模型上重新执行了它。对话中会显示切换提示。

Claude能帮忙训练AI模型吗？

根据帮助中心，这项安全措施不应影响大多数AI和ML工作。被禁止的是未经Anthropic许可用Claude的输出训练模型，而一些特定类别，例如ML加速器的kernel，会切换到Opus 5。

可以关闭Claude的模型切换吗？

可以，在Settings > Capabilities中关闭“Switch models when a message is flagged”选项。这样被拦截的请求不会转到其他模型，而是让对话暂停。