跳到正文

欧盟人工智能法案执法启动:布鲁塞尔向OpenAI和Anthropic发出问询

欧盟人工智能法案执法已经启动:AI办公室在智能体入侵事件后要求OpenAI和Anthropic提供信息。这对使用AI的企业意味着什么?

Piotr Sobolewski1 分钟阅读

本文的其他语言版本:العربيةDeutschEnglishEspañolFrançaisItaliano日本語Polski

本文内容
  1. 到底发生了什么?
  2. 欧盟人工智能法案执法对模型提供者具体意味着什么?
  3. 这类测试到底受不受AI法案管辖?
  4. 这对使用AI的欧洲企业意味着什么?
  5. TL;DR

欧盟人工智能法案执法已经正式启动。10月,欧盟AI办公室向OpenAI和Anthropic发出了正式的信息请求,起因是今年夏天两家公司的模型在测试中侵入了外部企业的系统。目前既没有罚款,也没有指控,但这说明欧盟委员会确实打算动用它自8月起拥有的权力。

到底发生了什么?

欧盟委员会执行副主席亨娜·维尔库宁(Henna Virkkunen)于2026年10月14日在都柏林举行的International AI Summit上宣布:“我们的AI办公室已经开始执行这些规则”(据Euronews引述)。这些请求涉及安全性、外部评估以及对模型使用情况的监测。AI办公室之所以发出请求,是因为它认为两家公司自愿提交的文件不够充分。

当然,事情的起因是今年夏天两起备受关注的事件:

  1. OpenAI:一个智能体逃出了测试环境,侵入了Hugging Face的基础设施,而欧盟的客户也在使用这个平台。
  2. Anthropic:正如该公司在7月底承认的那样,Claude模型(包括最强的Mythos 5)在测试期间未经授权访问了三家外部机构的系统(有意思的是,Anthropic的模型之所以能连上互联网,是因为与负责评估的合作方之间的一次误会)。

欧盟人工智能法案执法对模型提供者具体意味着什么?

通用人工智能(GPAI)模型提供者的义务自2025年8月2日起适用,但欧盟委员会执行这些义务的权力直到2026年8月2日才生效。监督权专属于欧盟委员会,由其委托AI办公室行使(第88条)。

信息请求是第91条规定的工具:欧盟委员会可以要求提供模型文档以及评估合规所需的任何信息,提供者必须在规定期限内答复。这件事分量不轻,因为第101条规定的罚款最高可达全球年营业额的3%或1500万欧元(以较高者为准),在答复中提供不正确、不完整或具有误导性的信息同样适用。

这类测试到底受不受AI法案管辖?

……而这恰恰是问题所在。AI法案不适用于模型投放市场之前的研究、测试和开发活动。William Fry律师事务所的Barry Scannell对Euronews表示,这些规则“非常明确地”不适用于开发和测试阶段。一位欧盟委员会官员回应说,他们不会在测试阶段执法,但如果模型逃出测试环境并影响到欧盟市场,AI法案就适用。

如果欧盟委员会的立场站得住,AI实验室今后不仅要向布鲁塞尔展示成品模型,还要说明他们如何保障测试的安全。

这对使用AI的欧洲企业意味着什么?

请求发给的是模型提供者,而不是它们的客户。如果你在用ChatGPT、Claude或这两家公司的API,不需要马上做任何改变。不过,我会从中得出两点结论:

  1. 管好自己的义务。 自2025年2月2日起,第4条要求部署AI系统的企业确保使用这些系统的员工具备足够的AI素养。其他义务则取决于AI的具体用途。
  2. 限制智能体的访问权限。 两起事件都始于智能体拥有了本不该有的互联网访问权限。如果你把智能体接入公司系统,只给它完成任务所需的权限和连接。

TL;DR

OpenAI或Anthropic被罚款了吗?

没有。截至2026年10月15日,AI办公室只发出了信息请求。罚款需要先有初步调查结论,并听取提供者的意见(第101条)。

谁负责对AI模型提供者执行AI法案?

欧盟委员会,通过AI办公室执行。企业中使用的AI系统(例如被禁止的做法或高风险系统)则由各国的市场监管机构负责。

如果我的欧洲公司只是使用ChatGPT或Claude,AI法案和我有关吗?

通用模型的义务由其提供者承担。不过,作为部署AI的企业,你也有自己的义务,首先是员工的AI素养(第4条),其他义务则取决于用途。