助手任务选择表

规则法规 · 2026-11-17

欧盟《人工智能法》怎样按风险给 AI 分级

欧盟《人工智能法》按风险把AI系统分为四档:不可接受风险、高风险、透明度风险、最小或无风险。官方页面说明,这四档分别对应禁止、投放市场前的严格义务、透明度披露,以及不设专门规则。该页面由欧盟委员会发布,面向AI开发者和部署者说明欧盟范围内特定用途的AI规则;页面称《人工智能法》是全球首个综合性AI法律框架。

风险分级:四档风险对应什么要求

官方页面说明,《人工智能法》为AI系统定义了4个风险等级,规则针对特定用途。四档的基本处理方式如下:

  • 不可接受风险:被视为对人们的安全、生计和权利构成明确威胁的AI系统被禁止。
  • 高风险:可能对健康、安全或基本权利造成严重风险的AI用例被列为高风险,投放市场前受严格义务约束。
  • 透明度风险:围绕AI使用需要透明度,适用特定披露义务。
  • 最小或无风险:不引入规则。

不可接受风险:九类禁止做法

这一档对应禁令。官方页面列出九类被禁止的做法:

  1. 有害的基于AI的操纵和欺骗。
  2. 有害的基于AI对脆弱性的利用。
  3. 社会评分。
  4. 个人刑事犯罪风险评估或预测。
  5. 无针对性地抓取互联网或闭路电视材料,用于创建或扩展人脸识别数据库。
  6. 工作场所和教育机构中的情绪识别。
  7. 通过生物特征分类推断某些受保护特征。
  8. 用于执法目的、在可公开进入空间进行的实时远程生物识别。
  9. 生成未经同意的性明确和私密内容或儿童性虐待材料(CSAM)的AI系统,例如AI “nudification”应用。

页面说明,第1至第8项禁令于2025年2月生效;第9项禁令于2026年12月生效,并作为AI Omnibus的一部分引入。

高风险:用途清单与投放市场前的严格义务

官方页面把可能对健康、安全或基本权利造成严重风险的AI用例列为高风险。页面列出的高风险用例包括:

  • 关键基础设施中的AI安全组件,例如交通,其故障可能危及公民的生命和健康。
  • 教育机构使用的AI解决方案,可能决定某人能否接受教育及其职业发展,例如考试评分。
  • 产品的AI安全组件,例如机器人辅助手术中的AI应用。
  • 用于就业、工人管理和获得自雇机会的AI工具,例如招聘中的简历筛选软件。
  • 某些用于获得基本私人和公共服务的AI用例,例如拒绝公民获得贷款的信用评分。
  • 用于远程生物识别、情绪识别和生物特征分类的AI系统,例如追溯识别商店扒手的AI系统。
  • 执法中可能干扰人们基本权利的AI用例,例如评估证据可靠性。
  • 移民、庇护和边境控制管理中的AI用例,例如自动审查签证申请。
  • 司法和民主程序管理中的AI解决方案,例如准备法院裁决的AI解决方案。

对高风险AI系统,页面列出投放市场前的严格义务,包括:适当的风险评估和缓解系统;高质量的数据集,以减少歧视性结果的风险;记录活动以确保结果可追溯;详细文档,向当局提供评估合规所需的系统及用途信息;向部署者提供清晰、充分的信息;适当的人工监督措施;高水平的稳健性、网络安全和准确性。

透明度风险:让人类知道何时在与AI互动

这一档关注AI使用中的透明度。页面说明,《人工智能法》引入特定披露义务,以便在必要时告知人类,维护信任。例如,使用聊天机器人等AI系统时,应让人类知道自己在与机器交互,以便作出知情决定。生成式AI提供者必须确保AI生成内容可识别;某些AI生成内容应清晰、可见地标注,即深度伪造和以告知公众公共利益事项为目的发布的文本。透明度规则于2026年8月生效。

最小或无风险:不设专门规则

官方页面说明,对于被认为最小或无风险的AI,《人工智能法》不引入规则。目前欧盟使用的绝大多数AI系统属于这一档,包括AI电子游戏或垃圾邮件过滤器等应用。

通用目的AI模型:另一组规则

官方页面在四档风险之外,另列通用目的AI模型(General-Purpose AI,GPAI)的规则。此类模型可执行广泛任务,并正在成为欧盟许多AI系统的基础。页面说明,其中一些模型如果能力很强或被广泛使用,可能带来系统性风险;对可能带来系统性风险的GPAI模型,提供者应评估和缓解这些风险。GPAI模型规则于2025年8月生效。

页面还列出2025年7月欧盟委员会发布的3项工具:GPAI模型提供者义务范围指南;GPAI Code of Practice,一项由独立专家提交给委员会的自愿合规工具;GPAI模型训练内容公开摘要模板,要求提供者概述训练模型所用数据,包括数据来源(含大型数据集和顶级域名)以及数据处理方面的信息。

适用时间线与执行

官方页面列出《人工智能法》的关键时间点:

  • 2024年8月1日生效,2026年8月2日适用,部分规则例外。
  • 禁止的AI做法和AI素养义务从2025年2月2日适用。
  • 治理规则和GPAI模型义务于2025年8月2日适用;透明度规则于2026年8月生效。
  • 从2026年8月2日起,AI Office和成员国当局负责实施、监督和执行《人工智能法》。AI Office对GPAI模型持有执法权,可要求技术文档、评估模型、要求纠正措施,并对不合规行为罚款。
  • 某些高风险领域——包括生物识别、关键基础设施、教育、就业、移民、庇护和边境控制——的规则从2027年12月2日适用;集成到电梯或玩具等产品的系统规则从2028年8月2日适用。页面还说明,嵌入受监管产品(Annex I)的规则过渡期至2028年8月2日,某些敏感领域(Annex III)的高风险用例规则至2027年12月2日。

常见问题

风险分级是否按行业划分?

官方页面按AI的具体用途说明风险档位,并列出各档示例。高风险清单横跨关键基础设施、教育、产品安全组件、就业、基本服务、远程生物识别、执法、移民与边境控制、司法和民主程序等场景;不可接受风险列出九类做法;最小或无风险包括AI电子游戏和垃圾邮件过滤器。

高风险系统的严格义务从什么时候开始?

官方页面在严格义务部分写明从2027年12月2日起,高风险AI系统在投放市场前受严格义务约束。时间线部分又区分:某些高风险领域规则从2027年12月2日适用;集成到电梯或玩具等产品的系统规则从2028年8月2日适用。

核对清单

  • 核对某个AI用途是否落在官方页面列出的九类禁止做法中,以及第1至第8项禁令与第9项禁令各自的生效时间。
  • 核对高风险用例清单是否涵盖关键基础设施、教育、产品安全组件、就业、基本服务、远程生物识别、执法、移民与边境控制、司法和民主程序等场景。
  • 核对高风险AI系统严格义务的具体内容,以及某些高风险领域2027年12月2日、集成到电梯或玩具等产品2028年8月2日的适用日期。
  • 核对透明度规则对聊天机器人、生成式AI内容、深度伪造和公共利益文本的披露要求,以及2026年8月的生效时间。
  • 核对GPAI模型规则、可能带来系统性风险时的评估与缓解要求,以及2025年8月的生效时间。
  • 核对从2026年8月2日起AI Office和成员国当局的实施、监督和执行职责,以及AI Office对GPAI模型的执法权。

资料来源

← 全部文章