×
NEWS CENTER

新闻中心

国内生成式人工智能服务将迎监管

时间:2023-04-19 15:32:40 次数:1644

近日,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》(以下简称“办法”)公开征求意见,引发广泛关注。《规定》通过系统性、创新性制度设计,首次回应了对深度合成服务的管理要求,为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。

国内首个AIGC监管办法将至

办法提到,国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。其中办法涉及的生成式人工智能包括基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

办法对利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(简称“提供者”)的责任进行了规定。提供者应当承担该产品生成内容生产者的责任、个人信息保护义务。利用生成式人工智能产品向公众提供服务前,需按规定向国家网信部门申报安全评估。

此外,提供者需对预训练数据、优化训练数据来源的合法性负责,对标注人员进行必要培训,明确并公开其服务的适用人群、场合、用途,对用户的输入信息和使用记录承担保护义务。

对于生成式人工智能产品,提供者需要按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识等。

《办法》关键要点

治理原则——AI技术研发者应遵循《办法》草案中的治理原则。该原则部分沿袭了《数据安全法》相关内容,即提供生成式AI产品或服务应当尊重社会公德、公序良俗、他人合法利益以及法律法规。《办法》草案还强调,利用生成式AI生成的内容应当避免歧视、尊重知识产权并真实准确。此外,如防止算法训练中的歧视、避免不公平竞争等算法治理原则8也在《办法》草案中得到了呼应,体现了我国为实现数据安全和个人信息保护社会责任9承诺的不懈努力。这些原则显然值得提倡,然而,对刚刚问世的新兴技术直接施加上述责任是否操之过急,依然是值得讨论的命题。

价值观——除了要求生成内容应当“体现社会主义核心价值观”以外,《办法》草案还沿用了《网络信息内容生态治理规定》10中的要求,禁止生成其规定的违法内容。与《办法》草案相似,其他国家亦有将国家安全、政治立场与商业联系在一起的作法。《办法》草案一经实施,可能为跨国公司在应对各国差异化营商环境时增加挑战。

守门人责任——生成式AI企业应当承担使用其产品和服务生成内容的内容生产者责任。此外,《办法》草案进一步规定这些企业有义务指导用户进行良性的内容生产。生成式AI企业是否应承担内容生产者责任这一问题实质上延续了美国和欧盟对社交媒体平台是否需承担用户内容责任的漫长讨论,而反对方的主要论点是过于严格的监管可能会遏制技术发展。

安全评估——与网络社交平台相似,生成式AI产品和服务应当接受网信办的安全评估11。由于安全评估的范围可能随着产品和服务的技术细节而变化,人工智能企业在进行研发时需要格外注意安全评估的时间和金钱成本。

透明度要求——《办法》草案规定,在产品研制中采用人工标注时,生成式AI的提供者必须制定清晰、具体、可操作的标注规则,对标注人员进行必要培训,抽样核验标注内容的正确性。此外,提供者还应当提供预训练和优化训练数据的来源、规模、类型、质量等描述,以及基础算法和技术体系等。生成的图片、视频等内容还应当按照《互联网信息服务深度合成管理规定》12进行标识,以避免公众的混淆和误认。透明度的要求在受到用户的欢迎的同时,也将给研发者带来沉重的合规负担和披露要求,可能会增加研发者潜在的商业秘密泄露风险。

实名制——与互联网领域的其他规则13相一致,生成式AI用户必须实名注册。关于实名制,国家在平衡互联网监管与个人隐私保护的长期实践中形成的做法是将用户的真实身份信息与手机号码绑定,而互联网服务提供者通过手机号码核实用户的真实身份。

社会责任——提供者应当采取适当措施以防范用户过分依赖或沉迷生成内容。目前互联网实行的防沉迷机制于2021年引入,一经生效便对网络游戏行业14产生了极大的冲击。但目前尚不清楚生成式AI提供者是否同样需要在其产品中嵌入类似的防沉迷机制以限制易受影响群体的使用。

用户画像和数据共享——用户画像和人工智能平台与其关联实体之间的数据共享被明确禁止。虽然这一禁止有利于隐私保护,但该做法可能会增加生成式AI企业的研发成本,并减少企业利用用户行为数据集获利的机会。

投诉渠道——与《个人信息保护法》和中国《民法典》的要求相似,《办法》草案规定生成式AI的提供者应当建立用户投诉接收处理机制。完备的人工智能平台一般已经设置了热线电话和客服政策,但初创企业则相应背上了较重的合规负担。

持续性要求——《办法》草案要求提供者提供“持续”的服务。这一要求与传统电信行业的要求相似,即要求服务始终能够正常使用。对此的一种解释是,网信办希望将生成式AI服务建设为一项公共基础设施,以此推动中国数字化进程,并希望能够取得突破性进展。这一要求虽然对用户有利,但对初创企业来说则非常困难。

模型优化——如果发现生成内容违反了《办法》草案,提供者必须在三个月内找到解决方案,防止该内容再次生成。这一规定对于人工智能产业的发展具有积极意义。该宽限期可以解读为,网信办在违规企业采取内容过滤措施和其他补救行动的前提下,有意愿允许企业继续进行生成式AI的研发。

处罚——提供者违反《办法》草案规定的,按照《网络安全法》《数据安全法》《个人信息保护法》《刑法》等法律、行政法规予以处罚。法律、行政法规没有规定的,由网信部门和有关主管部门依据职责予以处罚,罚款范围在人民币一万元以上十万元以下。

巨龙智立方数据建模平台

智立方,是一款适应各类主流大数据技术的一站式可视化建模服务平台。基于核心大数据建模技术的积累,采用知识图谱建模、特征工程、机器学习、深度学习等技术,对数据进行分析与挖掘,提炼业务信息和业务知识,构建行业专业知识图谱,实现业务智能化场景的赋能和业务价值输出。

扫一扫分享当前页面
分享到