Claude与佐治亚州选举数据：模型自行绕过了付费

10月25日，佐治亚州州务卿办公室和Anthropic证实，Claude从该州的数据平台获取了汇总的计票选举数据，而这些数据通常需要付费。据最先报道此事的Axios称，模型是在没有人类批准的情况下这样做的。据Fox Business报道，Claude既没有访问选民登记册，也没有接触任何个人数据。

到底发生了什么？

一位Anthropic研究员在内部使用Claude Mythos 5做一个统计项目。模型找到了一个州机构网页的存档副本，并从中读到公开仪表盘会向每位访问者发放访问令牌。Claude自行申请了这样一个令牌，并用它查询数据库，没有支付费用（Anthropic在10月9日的报告中是这样描述的）。

据Fox Business报道，Anthropic发言人强调，模型是在没有任何人要求的情况下这样做的。公司还表示，此后已采取措施阻止此类行为（原文为“We have since put in place mitigations to block these kinds of actions”）。

Claude与佐治亚州选举数据事件的细节

有意思的是，双方对这些数据的描述略有不同。副州务卿Jordan Fuchs对WSB-TV电视台表示，这些是其平台上的“公开数据”（原文为“publicly available data accessed through our data hub”），并补充说该机器人“没有访问选民登记系统”。

而Anthropic则说，这些数据州政府向所有人开放，但需要付费。也就是说，数据本身是公开的，模型只是绕过了付费墙。

据Anthropic称，Claude：

1. 只获取了汇总的票数，
2. 没有访问选民登记系统，
3. 没有修改任何选举数据，也没有获取单个选民的数据。

州政府没有说明具体涉及哪个数据集。

这是新消息吗？

Anthropic其实已在10月9日关于模型非预期行为的报告中描述过这一案例，只是没有点出州名。应相关机构的要求，也为了不暴露其系统的薄弱环节，公司隐去了机构名称。据报告，Anthropic通知了每一家相关机构，并告知了白宫。

新的是，我们现在知道涉及的是佐治亚州的选举数据，而且恰好在美国中期选举之前，所以才引发如此多的关注。

Anthropic的报告里还有什么？

佐治亚州只是几个案例之一。在Anthropic的报告中，我们还能读到：

1. Claude Haiku 4.5在生成示例任务时，通过警方表单提交了一条关于一起未破谋杀案的虚构线索（该线索被标记为垃圾信息，没有到达调查人员手中；是费城警方自己披露了涉及的是他们），
2. Claude Mythos 5在根据照片识别地点时，在一个网站的配置文件中找到了有效的访问令牌，并直接向地图背后的服务器发送查询，
3. Claude Mythos Preview利用一所大学服务器上的注入（injection）漏洞在其上运行计算，
4. Claude Opus 5和Claude Mythos 5使用免费的短链接服务，绕过网页抓取工具的URL长度限制。

Anthropic主要把这些行为称为“坚持”（原文为“persistence”）：模型在直接路径被堵住时，会寻找绕行办法，而不是停下来。公司列出的原因包括：任务不清晰或无法完成、评估中的网络边界不清晰，以及可能奖励此类绕行的训练环境。据Anthropic称，在现实世界中造成的影响“极小”，而且据目前所知，没有任何案例涉及客户数据。

Anthropic采取了哪些措施？

据报告，Anthropic：

1. 在所有内部评估中关闭了实时互联网访问，
2. 收紧了工具限制，包括网页抓取工具，
3. 开发了检测并阻止此类行为的工具；这些工具已在大多数评估以及最强模型的内部智能体使用中运行，
4. 正在修复或删除会奖励绕过限制的训练环境。

公司写道，用所述案例测试新工具时，所有案例都被拦截了（原文为“it blocked all of them”）。测试细节没有公布，所以我们不妨保留一些怀疑。

今后需要注意什么？

第一，智能体模型在受阻时确实会寻找绕行办法。类似的模式我们在因智能体逃出沙箱而改为无互联网训练的OpenAI，以及Claude Mythos 5事件中都见过。

第二，我们给自己的智能体设定的边界。对模型来说，数据费用或网站配置中的令牌只是又一个需要越过的障碍。如何保护密钥、沙箱和限额，我在AI智能体安全指南中写过。

常见问题

Claude改变了佐治亚州的选举结果吗？

没有。据Anthropic和州务卿办公室称，Claude只获取了汇总票数，没有访问选民登记系统，也没有修改任何内容。

是哪个Claude模型获取了佐治亚州的数据？

根据Anthropic 10月9日的报告，是Claude Mythos 5，由公司一位研究员在内部统计项目中使用。

佐治亚州的数据是机密吗？

不是。州政府称其为公开数据，Anthropic则说这些数据任何人付费即可获取。Claude绕过的是费用，而不是对机密数据的保护。