规则法规 · 2026-11-17
欧盟《人工智能法》怎样按风险给 AI 分级
欧盟《人工智能法》按风险把AI系统分为四档:不可接受风险、高风险、透明度风险、最小或无风险。官方页面说明,这四档分别对应禁止、投放市场前的严格义务、透明度披露,以及不设专门规则。该页面由欧盟委员会发布,面向AI开发者和部署者说明欧盟范围内特定用途的AI规则;页面称《人工智能法》是全球首个综合性AI法律框架。
风险分级:四档风险对应什么要求
官方页面说明,《人工智能法》为AI系统定义了4个风险等级,规则针对特定用途。四档的基本处理方式如下:
- 不可接受风险:被视为对人们的安全、生计和权利构成明确威胁的AI系统被禁止。
- 高风险:可能对健康、安全或基本权利造成严重风险的AI用例被列为高风险,投放市场前受严格义务约束。
- 透明度风险:围绕AI使用需要透明度,适用特定披露义务。
- 最小或无风险:不引入规则。
不可接受风险:九类禁止做法
这一档对应禁令。官方页面列出九类被禁止的做法:
- 有害的基于AI的操纵和欺骗。
- 有害的基于AI对脆弱性的利用。
- 社会评分。
- 个人刑事犯罪风险评估或预测。
- 无针对性地抓取互联网或闭路电视材料,用于创建或扩展人脸识别数据库。
- 工作场所和教育机构中的情绪识别。
- 通过生物特征分类推断某些受保护特征。
- 用于执法目的、在可公开进入空间进行的实时远程生物识别。
- 生成未经同意的性明确和私密内容或儿童性虐待材料(CSAM)的AI系统,例如AI “nudification”应用。
页面说明,第1至第8项禁令于2025年2月生效;第9项禁令于2026年12月生效,并作为AI Omnibus的一部分引入。
高风险:用途清单与投放市场前的严格义务
官方页面把可能对健康、安全或基本权利造成严重风险的AI用例列为高风险。页面列出的高风险用例包括:
- 关键基础设施中的AI安全组件,例如交通,其故障可能危及公民的生命和健康。
- 教育机构使用的AI解决方案,可能决定某人能否接受教育及其职业发展,例如考试评分。
- 产品的AI安全组件,例如机器人辅助手术中的AI应用。
- 用于就业、工人管理和获得自雇机会的AI工具,例如招聘中的简历筛选软件。
- 某些用于获得基本私人和公共服务的AI用例,例如拒绝公民获得贷款的信用评分。
- 用于远程生物识别、情绪识别和生物特征分类的AI系统,例如追溯识别商店扒手的AI系统。
- 执法中可能干扰人们基本权利的AI用例,例如评估证据可靠性。
- 移民、庇护和边境控制管理中的AI用例,例如自动审查签证申请。
- 司法和民主程序管理中的AI解决方案,例如准备法院裁决的AI解决方案。
对高风险AI系统,页面列出投放市场前的严格义务,包括:适当的风险评估和缓解系统;高质量的数据集,以减少歧视性结果的风险;记录活动以确保结果可追溯;详细文档,向当局提供评估合规所需的系统及用途信息;向部署者提供清晰、充分的信息;适当的人工监督措施;高水平的稳健性、网络安全和准确性。
透明度风险:让人类知道何时在与AI互动
这一档关注AI使用中的透明度。页面说明,《人工智能法》引入特定披露义务,以便在必要时告知人类,维护信任。例如,使用聊天机器人等AI系统时,应让人类知道自己在与机器交互,以便作出知情决定。生成式AI提供者必须确保AI生成内容可识别;某些AI生成内容应清晰、可见地标注,即深度伪造和以告知公众公共利益事项为目的发布的文本。透明度规则于2026年8月生效。
最小或无风险:不设专门规则
官方页面说明,对于被认为最小或无风险的AI,《人工智能法》不引入规则。目前欧盟使用的绝大多数AI系统属于这一档,包括AI电子游戏或垃圾邮件过滤器等应用。
通用目的AI模型:另一组规则
官方页面在四档风险之外,另列通用目的AI模型(General-Purpose AI,GPAI)的规则。此类模型可执行广泛任务,并正在成为欧盟许多AI系统的基础。页面说明,其中一些模型如果能力很强或被广泛使用,可能带来系统性风险;对可能带来系统性风险的GPAI模型,提供者应评估和缓解这些风险。GPAI模型规则于2025年8月生效。
页面还列出2025年7月欧盟委员会发布的3项工具:GPAI模型提供者义务范围指南;GPAI Code of Practice,一项由独立专家提交给委员会的自愿合规工具;GPAI模型训练内容公开摘要模板,要求提供者概述训练模型所用数据,包括数据来源(含大型数据集和顶级域名)以及数据处理方面的信息。
适用时间线与执行
官方页面列出《人工智能法》的关键时间点:
- 2024年8月1日生效,2026年8月2日适用,部分规则例外。
- 禁止的AI做法和AI素养义务从2025年2月2日适用。
- 治理规则和GPAI模型义务于2025年8月2日适用;透明度规则于2026年8月生效。
- 从2026年8月2日起,AI Office和成员国当局负责实施、监督和执行《人工智能法》。AI Office对GPAI模型持有执法权,可要求技术文档、评估模型、要求纠正措施,并对不合规行为罚款。
- 某些高风险领域——包括生物识别、关键基础设施、教育、就业、移民、庇护和边境控制——的规则从2027年12月2日适用;集成到电梯或玩具等产品的系统规则从2028年8月2日适用。页面还说明,嵌入受监管产品(Annex I)的规则过渡期至2028年8月2日,某些敏感领域(Annex III)的高风险用例规则至2027年12月2日。
常见问题
风险分级是否按行业划分?
官方页面按AI的具体用途说明风险档位,并列出各档示例。高风险清单横跨关键基础设施、教育、产品安全组件、就业、基本服务、远程生物识别、执法、移民与边境控制、司法和民主程序等场景;不可接受风险列出九类做法;最小或无风险包括AI电子游戏和垃圾邮件过滤器。
高风险系统的严格义务从什么时候开始?
官方页面在严格义务部分写明从2027年12月2日起,高风险AI系统在投放市场前受严格义务约束。时间线部分又区分:某些高风险领域规则从2027年12月2日适用;集成到电梯或玩具等产品的系统规则从2028年8月2日适用。
核对清单
- 核对某个AI用途是否落在官方页面列出的九类禁止做法中,以及第1至第8项禁令与第9项禁令各自的生效时间。
- 核对高风险用例清单是否涵盖关键基础设施、教育、产品安全组件、就业、基本服务、远程生物识别、执法、移民与边境控制、司法和民主程序等场景。
- 核对高风险AI系统严格义务的具体内容,以及某些高风险领域2027年12月2日、集成到电梯或玩具等产品2028年8月2日的适用日期。
- 核对透明度规则对聊天机器人、生成式AI内容、深度伪造和公共利益文本的披露要求,以及2026年8月的生效时间。
- 核对GPAI模型规则、可能带来系统性风险时的评估与缓解要求,以及2025年8月的生效时间。
- 核对从2026年8月2日起AI Office和成员国当局的实施、监督和执行职责,以及AI Office对GPAI模型的执法权。