助手任务选择表

规则法规 · 2026-11-17

AI 生成的内容要不要标识:《人工智能生成合成内容标识办法》怎么说

中国政府网刊载的国务院部门文件《人工智能生成合成内容标识办法》通知,由国家网信办、工业和信息化部、公安部、广电总局制定,向各省、自治区、直辖市互联网信息办公室、通信管理局、公安厅(局)、广播电视局,新疆生产建设兵团互联网信息办公室、工业和信息化局、公安局、文化体育广电和旅游局印发。按该办法,AI生成内容标识分为显式标识和隐式标识。属于《互联网信息服务深度合成管理规定》第十七条第一款情形的生成合成服务,服务提供者应按要求添加显式标识,并应按第十六条在文件元数据中添加隐式标识;用户使用网络信息内容传播服务发布生成合成内容,应主动声明并使用服务提供者提供的标识功能。办法第二条写明,符合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者(以下简称“服务提供者”)开展人工智能生成合成内容标识活动,适用本办法。通知成文日期为2025年3月7日,发文字号为国信办通字〔2025〕2号;办法自2025年9月1日起施行。

文件目的与内容范围

通知写明,制定办法是为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益。办法第一条列出制定依据,包括《中华人民共和国网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章。

办法第三条把人工智能生成合成内容界定为利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。该条同时说明,人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识;隐式标识是采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。

办法第八条要求服务提供者在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。

显式标识与隐式标识:AI生成内容标识的两种形态

显式标识与隐式标识的含义在办法第三条中分别列出。办法第五条规定,文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途等信息内容。服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照办法第四条要求添加显式标识。

办法第四条列出的显式标识要求包括:在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识,或者在交互场景界面、文字周边添加显著的提示标识;在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识,或者在交互场景界面中添加显著的提示标识;在图片的适当位置添加显著的提示标识;在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可以在视频末尾和中间适当位置添加显著的提示标识;呈现虚拟场景时,在起始画面的适当位置添加显著的提示标识,可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识;其他生成合成服务场景根据自身应用特点添加显著的提示标识。服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。

隐式标识方面,办法第五条规定,服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识。隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。办法鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

传播服务提供者与应用分发平台的要求

提供网络信息内容传播服务的服务提供者,应当按照办法第六条采取措施,规范生成合成内容传播活动。文件元数据明确标明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,明确提醒公众该内容属于生成合成内容。文件元数据中未核验到隐式标识,但用户声明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容可能为生成合成内容。文件元数据中未核验到隐式标识,用户也未声明为生成合成内容,但传播服务提供者检测到显式标识或者其他生成合成痕迹的,识别为疑似生成合成内容,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容疑似生成合成内容。

办法第六条还规定,传播服务提供者应当提供必要的标识功能,并提醒用户主动声明发布内容中是否包含生成合成内容。有前述第一项至第三项情形的,应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。第七条则规定,互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务;互联网应用程序服务提供者提供人工智能生成合成服务的,互联网应用程序分发平台应当核验其生成合成内容标识相关材料。

用户发布AI生成内容时的声明、标识功能与禁止行为

办法第十条规定,用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。与这一要求相衔接,办法第六条第(四)项规定,提供网络信息内容传播服务的服务提供者应当提供必要的标识功能,并提醒用户主动声明发布内容中是否包含生成合成内容。

办法第十条还规定,任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

用户申请服务提供者提供没有添加显式标识的生成合成内容的,办法第九条规定,服务提供者可以在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。该条把“可以”与用户协议中的标识义务、使用责任以及日志留存放在同一情形中。

办法第十三条规定,违反本办法规定的,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理。

核对清单

以下事项可在官方页面所载办法文本中查对:

  • 第二条列明的适用对象:符合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者开展标识活动适用本办法。
  • 第三条列明的定义:生成合成内容包括文本、图片、音频、视频、虚拟场景等信息;标识包括显式标识和隐式标识。
  • 第四条列明的显式标识位置:文本、音频、图片、视频、虚拟场景等分别有相应要求;服务提供者提供下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。
  • 第五条列明的隐式标识:按《互联网信息服务深度合成管理规定》第十六条在文件元数据中添加,包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
  • 第六条列明的传播提示与传播要素信息:按文件元数据、用户声明、显式标识或其他生成合成痕迹,分别提示“属于”“可能为”“疑似”生成合成内容,并在相关情形下在文件元数据中添加传播要素信息。
  • 第十条列明的用户义务与禁止行为:用户发布生成合成内容应主动声明并使用标识功能;不得恶意删除、篡改、伪造、隐匿标识等。

资料来源

← 全部文章