EU AI Act（欧盟人工智能法案）
EU AI Act（欧盟人工智能法案） 是欧盟管理 AI 开发与使用的法律，被认为是全球首个全面的 AI 监管框架。它采取基于风险的监管方法：根据 AI 带来的潜在伤害的可能性和严重程度，对 AI 系统适用不同层级的规则，而非一刀切地管住所有 AI。法案既约束欧盟境内的提供商与部署者，也通过"市场效果原则"部分延伸到欧盟境外的供应商——只要其 AI 系统的输出在欧盟被使用。
风险分级
法案将 AI 用途按风险划分为四档，最重要的条款集中在两端：
| 风险等级 | 处理方式 | 典型例子 |
|---|---|---|
| 不可接受风险 | 禁止 | 社会评分系统、工作场所情绪识别（医疗/安全用途除外）、利用人类弱点的 AI、无定向抓取面部图像建库、基于敏感特征的生物识别、部分预测性警务、公共场合实时远程生物识别 |
| 高风险 | 严格治理、风险管理与透明度要求 | 招聘/晋升决策、医疗设备、教育与职业培训、司法与民主程序、公共福利资格与信用评估、关键基础设施管理、非禁止的生物识别 |
| 有限风险 | 主要承担透明度义务 | 与人直接交互需告知对方在与 AI 交互；生成内容须以机器可读格式标注由 AI 生成/编辑（含深度伪造） |
| 最低风险 | 不受法案要求约束（仍须遵守其他法律） | 垃圾邮件过滤、电子游戏等 |
欧盟委员会可更新禁止实践清单与高风险用途清单，因此范围会随时间演变。高风险系统若不对个人健康、安全或权利构成重大威胁，且满足"执行狭窄程序任务"等标准，可例外豁免；但自动处理个人数据做画像评估的系统始终视为高风险，不得豁免。
高风险系统提供商须实施持续风险管理系统、采用严格数据治理、维护综合技术文档、建立质量管理体系与上市后监测计划；部署者则须按说明使用、留存自动生成的日志，某些基本服务部署者还要在首次使用前做基本权利影响评估。
通用目的 AI（GPAI）规则
法案为通用目的 AI 模型（GPAI） 单独设规——这是直接影响 LLM 开发商的条款。GPAI 指具有显著通用性、能胜任多种任务并集成到各种下游系统或应用的模型（典型即基础模型）。GPAI 提供商的基本义务包括：
- 制定遵守欧盟版权法的政策；
- 撰写并公开发布训练数据集的详细摘要。
若 GPAI 被归类为构成系统性风险（高影响能力、影响范围大、可能在整个价值链大规模传播负面影响的模型），则承担额外义务：
- 记录并向欧盟 AI 办公室和相关监管机构报告严重事件；
- 实施充分的网络安全以保护模型及物理基础设施。
系统性风险的判定门槛：用于训练模型的累计计算能力超过 10²⁵ FLOP 即推定具有高影响能力并构成系统性风险（欧盟委员会也可另行归类）。这一计算量门槛把前沿大模型与一般开源模型在监管上拉开距离。
为把 GPAI 规则落到可执行层面，欧盟通过多方利益相关者流程制定了 General-Purpose AI (GPAI) Code of Practice，为通用模型建立透明度、安全与安全的共享框架。OpenAI 表示已参与并认可该准则。
透明度与 AI 生成内容
法案的透明度义务中有一条与生成式 AI 直接相关：生成文本、图像或其他内容的 AI 系统必须以机器可读格式将输出标注为由 AI 生成或编辑，深度伪造亦在其中。配套的 Code of Practice on Transparency of AI-Generated Content 由多方利益相关者共同制定，是落实这一义务的实务准则。这与 内容溯源（Content Provenance） 的方向一致——C2PA Content Credentials 与 SynthID 水印正是给 AI 生成内容打上可追溯信号的两类技术。
生效时间线
法案于 2024 年 8 月 1 日生效，各条款分阶段适用：
{{< mermaid >}}
flowchart LR
PR[“禁止实践
2025-02-02”] –> GPAI[“GPAI 规则
2025-08-02”] –> HR[“高风险系统规则
2026-08-02”] –> PROD[“受欧盟特定法律监管
的产品/组件 2027-08-02”]
{{< /mermaid >}}
| 生效日 | 条款 |
|---|---|
| 2025-02-02 | 禁止的 AI 实践禁止令生效 |
| 2025-08-02 | GPAI 规则对新 GPAI 生效（此前投放市场的 GPAI 提供商须在 2027-08-02 前合规） |
| 2026-08-02 | 高风险 AI 系统规则生效 |
| 2027-08-02 | 受欧盟特定法律监管的产品或产品安全组件中的 AI 系统规则适用 |
OpenAI 在 2026 年的表述是"EU AI Act 进入下一阶段"，对应高风险 AI 系统规则即将/刚刚适用这一时间窗口。
处罚
处罚按违规类型分级，对初创企业和中小型组织取金额较低者：
| 违规类型 | 最高罚款 |
|---|---|
| 违反禁止的 AI 实践 | 3500 万欧元或全球年营业额 7%（取高） |
| 不遵守高风险 AI 系统要求等 | 1500 万欧元或全球年营业额 3%（取高） |
| 向当局提供不正确、不完整或误导性信息 | 750 万欧元或全球年营业额 1%（取高） |
实验室如何落地合规
以 OpenAI 的公开表述为例，一家前沿模型提供商把法案原则翻译成具体内部机制时会用到一组相互配套的产物与流程：在发布前对模型做 红队测试（Red Teaming） 并通过 系统卡（System Card） 公开风险与评估结果；用 Model Spec 公开塑造模型行为的原则；用 Preparedness Framework（2023 年设立、2025 年更新）识别、评估与管理高级 AI 系统的严重风险；用 Frontier Governance Framework 说明安全与安全实践如何对齐包括 GPAI Code 在内的法律要求。生态层面则通过 Frontier Model Forum、与美国 CAISI 和英国 AISI 的合作、第三方评估实践来推动共享安全研究与更清晰的评估标准。
这些框架不是法案本身，而是实验室对"风险评估、安全护栏、模型上报、安全、事件响应、外部专家输入、持续更新"等原则义务的具体实现方式。法案要求是目标，内部框架与公开产物是路径。
一句话定位
EU AI Act 用风险分级把"什么样的 AI 该被禁止、什么样的该被严管、什么样的只需透明度、什么样的可以自由"区分开，并用 GPAI 规则与系统性风险门槛把前沿基础模型纳入监管。它常被类比为 AI 领域的 GDPR——业界普遍预期它会像 GDPR 那样通过"布鲁塞尔效应"拉动全球 AI 治理标准。
注：本词条对法案结构性事实（风险分级、GPAI 规则、时间线、处罚）依据 IBM 概述与法案文本，对实验室合规视角依据 OpenAI 公开表述。法案实施细节仍在敲定中，本文不替代对法案原文的逐条研读。