规则法规 · 2026-11-17
《生成式人工智能服务管理暂行办法》:普通用户该了解哪几条
办法中直接出现“使用者”并涉及普通用户的条款,包括第十八条关于使用者向有关主管部门投诉、举报的权利,第十一条关于输入信息和使用记录保护,第十五条关于投诉举报机制;第四条还把“使用”生成式人工智能服务列入遵守法律、行政法规、尊重社会公德和伦理道德的范围。中国政府网刊载的《生成式人工智能服务管理暂行办法》全文是国家网信办、国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布的国务院部门文件,发文字号为令第15号,成文日期为2023年7月10日,自2023年8月15日起施行,适用于利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务。
《生成式人工智能服务管理暂行办法》的适用范围与服务定义
第二条写明,利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务,适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的,从其规定。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不适用本办法的规定。
第二十二条给出用语含义:生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术;生成式人工智能服务提供者,是指利用生成式人工智能技术提供生成式人工智能服务(包括通过提供可编程接口等方式提供生成式人工智能服务)的组织、个人;生成式人工智能服务使用者,是指使用生成式人工智能服务生成内容的组织、个人。
第二十条写到来源于中华人民共和国境外向境内提供生成式人工智能服务的情形:不符合法律、行政法规和本办法规定的,国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。第二十三条写到,法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的,提供者应当依法取得许可;外商投资生成式人工智能服务,应当符合外商投资相关法律、行政法规的规定。
服务提供者的责任与服务规范
第九条写明,提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务;涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。提供者应当与注册其服务的生成式人工智能服务使用者签订服务协议,明确双方权利义务。
第十条要求提供者明确并公开其服务的适用人群、场合、用途,指导使用者科学理性认识和依法使用生成式人工智能技术,采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。第十二条要求提供者按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。第十三条要求提供者在其服务过程中,提供安全、稳定、持续的服务,保障用户正常使用。
第十四条写到,提供者发现违法内容的,应当及时采取停止生成、停止传输、消除等处置措施,采取模型优化训练等措施进行整改,并向有关主管部门报告。第十七条写到,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
输入信息、使用记录与训练数据
第十一条与使用者关系直接:提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录。提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。
第七条要求提供者依法开展预训练、优化训练等训练数据处理活动:使用具有合法来源的数据和基础模型;涉及知识产权的,不得侵害他人依法享有的知识产权;涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形;采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性;遵守《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。
第八条写到数据标注:提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则;开展数据标注质量评估,抽样核验标注内容的准确性;对标注人员进行必要培训,提升尊法守法意识,监督指导标注人员规范开展标注工作。第十九条写到监督检查中的配合与保密:有关主管部门依据职责对生成式人工智能服务开展监督检查,提供者应当依法予以配合,按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明,并提供必要的技术、数据等支持和协助;参与安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密,不得泄露或者非法向他人提供。
使用者的行为边界与投诉举报
第四条把“提供和使用”都写入:提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。条文列出的要求包括:坚持社会主义核心价值观,不得生成法律、行政法规禁止的内容;在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视;尊重知识产权、商业道德,保守商业秘密,不得利用算法、数据、平台等优势,实施垄断和不正当竞争行为;尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益;基于服务类型特点,采取有效措施,提升生成式人工智能服务的透明度,提高生成内容的准确性和可靠性。
第十四条还写到使用者利用服务从事违法活动的情形:提供者发现使用者利用生成式人工智能服务从事违法活动的,应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施,保存有关记录,并向有关主管部门报告。
第十五条要求提供者建立健全投诉、举报机制,设置便捷的投诉、举报入口,公布处理流程和反馈时限,及时受理、处理公众投诉举报并反馈处理结果。第十八条写明,使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的,有权向有关主管部门投诉、举报。
监督检查、法律责任与其他条款
第十六条列出管理部门:网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门,依据各自职责依法加强对生成式人工智能服务的管理。国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用,完善与创新发展相适应的科学监管方式,制定相应的分类分级监管规则或者指引。
第二十一条写到违反本办法规定的处理:由有关主管部门依照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚;法律、行政法规没有规定的,由有关主管部门依据职责予以警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停提供相关服务。构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。
核对清单
- 适用服务:第二条写明,利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务,适用本办法;未向境内公众提供服务的研发、应用活动不适用本办法。
- 训练数据:第七条写明,提供者应当使用具有合法来源的数据和基础模型,涉及个人信息的应当取得个人同意或者符合法律、行政法规规定的其他情形。
- 服务公开信息:第十条写明,提供者应当明确并公开其服务的适用人群、场合、用途,并采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
- 违法内容处置:第十四条写明,提供者发现违法内容的,应当及时采取停止生成、停止传输、消除等处置措施,并向有关主管部门报告。
- 投诉举报入口:第十五条写明,提供者应当设置便捷的投诉、举报入口,公布处理流程和反馈时限,及时受理、处理公众投诉举报并反馈处理结果。
- 向主管部门投诉举报:第十八条写明,使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的,有权向有关主管部门投诉、举报。