摘要

国家网信办等七部门联合公布《生成式人工智能服务管理》】近日,国家网信办联合国家发展改革委教育部科技部工业和信息化部公安部广电总局公布《生成式人工智能服务管理暂行办法》(以下称《办》),自2023年8月15日起施国家互联网信息办公室有关负责人表示,出台《办法》,旨在促进生成式人工智能健康发展规范应用维护国家安全社会公共利益,保护公民法人和其他组织合法权益。

近日,国家网信办联合国家发展改革委教育部科技部工业和信息化部、公安部、广电总局公布《生成式智能管理暂行办法》(以下称《办法》),自2023年8月15日起施行。国家互联网信息办公室有关负责人表示,出台《办法》,旨在促进生成式人工智能健康发展规范,维护国家安全和社公共利益,保护公民、法人和其他组织的合法权益。

近年来,生成式人工智能技术快速,为经济社会发展带来新机遇的同时,也生了传播虚假信息侵害个人信息权益数据安全和偏见歧等问题,如何统筹生成式人工发展和安全引起各方关注。出台《办法》,既是促进生成式人工能健康发的重要要求,也是防范生成式人工智能风险现实需要。

《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能新发展,对生成式人工智能服务实行包容审慎和分类分级监管,明确了提供使用生成式人工智能服务总体要求。提出了促进生成式人工智能技术发展的具体措施,明确了训练数据处理活动数据标注等要求。规定了生成式人工智能服务规范,明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务,按照《互联网信息服务深度合成管理规定》对图片视频等生成内容进行标识,发现违法内容应当及时采取处置措施等。此外,还规定了安全评估算法备案、投诉举报等制度,明确了法律责任

国家互联网信办公室有关负责人指出,生成式人工智能服务的发展与治理需要政府企业、社网民等多方参与,共同促进生成式人工智能健康发展,让生成式人工智能技术更好地造福人民

办法全

生成式人工智能服务管理暂行办法

第一章总则

第一条为了促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律行政法规,制定本办法。

第二利用生成式人工智能技术向人民共和国内公众提生成文本片、音频、视频等内容的服务(以下称生成式人工智能服务),适用本办法。

国家对利用生成式人工智能服务从新闻出版影视制作文艺创作等活动另有规定的,从其规定。

行业组织业、教育科研机构公共文化机构、有关专业机构研发、应用生成式人工智能技术,未向内公众提生成式人工智能服务的,不适用本办法的规定。

第三条国家坚持发展和全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。

第四条提供和使用生成式人工智能服务,应当遵守法律、行法规,尊重社会公德伦理道德,遵守以下规定:

(一)坚持社会主义核价值观,不得生成煽动颠覆国家权、推翻社会主义制度,危害国家全和利益、损害国家形象,煽动分裂国家、破坏国家统一社会稳定,宣扬恐怖主义、极主义,宣扬民族仇恨民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容;

(二)在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止生民族、信仰国别地域性别年龄职业、健康等歧视;

)尊重知识产权商业道德,保守商业秘密,不得利用法、据、平台等优势,实施垄断和不正当竞争行为;

(四)尊重他人合法权益,不得危害他人身健康,不得侵害他人肖像权名誉权荣誉权隐私权个人信息权益;

(五)基于服务类点,采取有效措施,提升生成式人工智能服务的透明度,提生成内容的准确性可靠性

第二技术发展与治理

第五条鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景构建应用生态体系

支持行业组织业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新数据资源建设、转化应用、风险防范等方面开展协作

第六条鼓励生成式人工智能算法框架芯片及配套软件平台基础技术自主创新平等互利开展国际交流合作,参与生成式人工智能相关国际规则制定。

推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享提升算力资源利用效能。推动公共据分类分级有序开放,扩展高质量的公共训练数据资源。鼓励采用安全可信芯片软件工具算力和数据资源。

第七条生成式人工智能服务提供者(以下称提供者)应当依法开展预训练、优化训练等训练数据处理活动,遵守以下规定:

(一)使用具有合法来源的数据和基础模型;

(二)涉及知识产权的,不得侵害他人依法享有的知识产权;

)涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形;

(四)采取有效措施提训练数据质量,增强训练数据的真实性、准确性、客观性多样性

(五)《中华人民共和国网络安全法》、《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

第八条在生成式人工智能技术研发过程中进行数据标注的,提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则;开展数据标注质量评估,抽样核验标注内容的准确性;对标注人员进行必要培训,提升尊法守法意识,监督指导标注人员规范开展标注工作

第三章服务规范

第九条提供者应当依法承担网络信息内容生产者责任,履行信息安全义务。涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。

提供者应当与注册其服务的生成式人工智能服务使用者(以下称使用者)签订服务协议,明确双方权利义务。

第十条提供者应当明确并公开其服务的适用人群、合、用途,指导使用者科理性认识和依法使用生成式人工智能技术,采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

第十一条提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录。

提供者应当依法及时受理和处理个人关于查阅复制更正补充删除其个人信息等的请求。

第十二条提供者应当按照《互联网信息服务深度合成管理规定》对片、视频等生成内容进行标识。

第十三条提供者应当在其服务过程中,提供安全、稳定持续的服务,保障用户正常使用。

第十四条提供者发现违法内容的,应当及时采取停止生成、停止传输、消除等处置措施,采取模型优化训练等措施进行整改,并向有关主管部门报告

提供者发现使用者利用生成式人工智能服务从事违法活动的,应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施,保存有关记录,并向有关主管部门报告

第十五条提供者应当建立健全投诉、举报机制,设置便捷的投诉、举报入口,公布处理流程和反馈时限,及时受理、处理公众投诉举报并反馈处理结果。

第四章监督检查和法律责任

第十六条信、发展改革、教育、科技工业和信息化、公安、广播电视新闻出版等部门,依据各自职责依法加强对生成式人工智能服务的管理。

国家有关主管部门针对生成式人工智能技术点及其在有关行业和领域的服务应用,完善与创发展相适应的科学监管方式,制定相应的分类分级监管规则或者指引。

第十七条提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务法推荐管理规定》履行算法备案和变更、注销备案续。

第十八条使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的,有权向有关主管部门投诉、举报。

第十九条有关主管部门依据职责对生成式人工智能服务开展监督检查,提供者应当依法予以配合,按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明,并提供必要的技术、数据等支持和协助。

参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密个人隐私和个人信息应当依法予以保密,不得泄露或者非法向他人提供。

第二十条对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的,国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。

第二十一条提供者违反本办法规定的,由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚;法律、行政法规没有规定的,由有关主管部门依据职责予以警告、批评,责令限期改正;拒不改正或者情节严重的,责令暂停提供相关服务。

构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

第五章附则

第二十二条本办法下列用语的含义是:

(一)生成式人工智能技术,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。

(二)生成式人工智能服务提供者,是指利用生成式人工智能技术提供生成式人工智能服务(包括过提供可编程接口等方式提供生成式人工智能服务)的组织、个人。

(三)生成式人工智能服务使用者,是指使用生成式人工智能服务生成内容的组织、个人。

第二十三条法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的,提供者应当依法取得许可

投资生成式人工智能服务,应当符合外投资相关法律、行政法规的规定。

第二十四条本办法自2023年8月15日起施行。

 

 

来源: 东方财富网-中国网信网

https://finance.eastmoney.com/a/202307132779729571.html

配图:pixabay