生成式AI如何立规？中国有这些考虑……

来源：世界互联网大会2023-04-13 09:10

　　为促进生成式人工智能技术健康发展和规范应用，4月11日，中国国家互联网信息办公室发布了首份生成式AI产业管理办法——《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》），从生成式人工智能服务商的准入，到算法设计、训练数据选择以及用户实名和个人隐私、商业秘密等方面提出了相关要求。

　　《征求意见稿》明确了中国政府对人工智能算法、框架等基础技术的自主创新、推广应用、国际合作持鼓励态度。在支持优先采用安全可信的软件、工具、计算和数据资源的同时，划定了相关范围，即办法管辖范围、办法管理权限、“提供者”的责任主体认定。此外，《征求意见稿》还将为未来生成式人工智能服务提供者在从业过程中的底线和规范提供法律依据。

图源：pixabay

　　什么是生成式AI？

　　《征求意见稿》介绍，所谓生成式人工智能，指的是基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

　　对于生成式AI中国政府持什么态度？

　　《征求意见稿》指出，中国支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

　　中国政府给生成式AI提供的产品或服务立了哪些规矩？

　　《征求意见稿》提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。

　　1、利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

　　2、在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。

　　3、尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

　　4、利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

　　5、尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

　　使用相关产品需要履行什么义务？

　　《征求意见稿》提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任。涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

　　违反相关规定会受到什么处罚？

　　《征求意见稿》提出，提供者违反本办法规定的，由中国网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。法律、行政法规没有规定的，由中国网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。