世界观焦点:划“红线”,生成式AI迎来有序监管

来源:科技日报 发布日期:2023-04-23 13:01:53

4月11日,国家网信办公布《生成式人工智能服务管理办法(征求意见稿)》(以下简称“征求意见稿”),对生成式人工智能(AIGC)作了包括定义、准入资格、责任义务和处罚措施等较为详尽的规定。当前,国内的大模型研究及AIGC的商业应用仍处于发展初期,监管来得如此之快,足见政策层面对AIGC产业的重视,产业界也普遍认为规范性的政策将长期利好行业发展,AIGC即将迈入监管式发展阶段。

应用广泛但争议不断


(相关资料图)

AIGC是一种基于人工智能技术的创新型内容生成技术,它可以将人类创造的内容转化为机器可理解的内容,并通过自然语言或其他交互方式呈现给用户。

国际IT研究机构Gartner的相关报告指出,2023年将有20%的内容被生成式人工智能所创建。AIGC已经成为全球人工智能产业竞争的必争高地,国内企业也纷纷加码AIGC。

4月17日,文心一言已开始赋能百度内部智能工作平台“如流”,其智能工作工具涵盖了文本和图片生成、代码推荐两大场景,能帮助员工在日常工作中的思路构建、协作沟通、方案策划、代码编写等方面大幅提升效率。

4月18日,金山办公发布具备大语言模型能力的生成式人工智能应用WPS AI,将面向AIGC、阅读理解和问答、人机交互三个方向深耕。金山办公副总裁姚冬告诉记者,随着大语言模型技术的飞速发展,办公软件也将能更好地理解和分析用户需求,提供更多的个性化服务,助力办公效率的大幅提升。

在金融科技领域,AIGC也有很大的施展空间。道以科技CEO史继宾接受记者采访时表示,人工智能技术在私募的投资研究、投顾服务、运营服务、投资分析等金融业务中具备巨大的应用潜力,“AIGC能在私募的合格投资者界专家认证、投资风险评估、产品信息发布等业务环节,更加智能高效的协助投资者完成相关业务操作。”

业界专家认为,AIGC在图像、音频等内容的生成,以及智能客服、自动化生成等应用场景方面具有广泛应用前景。但在实际的落地应用过程中,AIGC所面临的挑战并不小。文渊智库研究员王超告诉记者,除了公众对“内容创作者是否将被AIGC所替代”的质疑之外,AIGC生成的内容可能涉及版权、著作权等知识产权问题,还可能引发隐私权保护和个人信息安全问题。

百度CTO王海峰坦言,科技的发展造福社会,也可能带来一些潜在的问题,“这需要技术的防范,需要建立相应规范,更需要全产业链乃至全社会携手解决问题,让技术发挥价值的同时,避免对技术的滥用。”

发展和监管需要平衡

专家普遍认为,目前AIGC所面临的挑战,需要各界在技术、伦理、法律等方面进行深入研究和探讨,确保其合理、合法和可持续发展。征求意见稿的出台,可谓应时应景。

针对征求意见稿第9条提出的“要求用户真实身份信息”,北京大学法学院教授薛军认为,AIGC在特定情况下更类似于搜索服务,应当允许用户以游客的身份使用。“这样其实既可以保护用户的隐私,也方便网民使用。”

针对征求意见稿第5条提出的“规定生成式人工智能产品提供者承担该产品生成内容生产者的责任”,中国人民大学教授、国家发展与战略研究院研究员刘永谋则认为,AIGC应用需求所提供的大多是生成文本、图像、声音等信息内容,用户在不同的场景使用可能会产生不同的影响。“一段由AI生成的正常的文字图片,平台方无法得知它是否被用于创作领域,还是用于一些灰黑产业的,其产生的后果理所应当由内容的使用方负责。”

在侵权问题上,征求意见稿第7条规定“生成式人工智能服务提供者用于生成式人工智能产品的预训练、优化训练数据,不得含有侵犯知识产权的内容”,北京外国语大学法学院副教授陈明涛认为,对知识产权的侵权性判断必须考虑到大模型训练数字的数量问题,面对海量的训练数据,生成式人工智能服务提供者很难作出有效判断。“现有立法对网络服务提供者会建立一种避风港机制,即要求权利人发通知主张权利,从而降低审核难度。对于生成式人工智能服务提供者,其实也可以考虑采用类似制度。”

广东财经大学法学院教授姚志伟表示,当前我国人工智能产业还需要引导企业积极创新,责任过重有可能会抑制企业的创新热情和技术进步。“对于AIGC可以考虑采取二元化的策略,对危害到国家安全和重要公共安全的问题,列出清晰的规则,明确法律责任和后果,划定底线进行监管。而对于个人信息保护、知识产权侵权、人格权侵权问题,则可以先观察和等待技术应用后出的各种可能,再进一步进行这部分的立法监管也更可期。”

当前,各国政府对人工智能技术普遍采用提前研判、提前介入、提前监管的思路。影谱科技产业研究院院长周岷峰告诉记者,征求意见稿的出台,既是及时体现国家对新业态加强监管、支持技术创新的理念,又是合理地督促相关技术企业及早构建与布局相关开发机制与工具,有效规避数据治理与隐私保护风险。“这有利于我国逐步形成生成式人工智能合规有据、有法可依的发展生态,同时也鼓励支持更多的技术企业积极探索实践这条充满想象空间的市场赛道,为推动我国数字经济发展、改善社会民生作出更大贡献。”

(责任编辑:韩梦晨)

关键词:
x 广告
设施 移动
x 广告

Copyright @  2015-2022 科技先生网版权所有  备案号: 沪ICP备2022005074号-4   联系邮箱:58 55 97 3@qq.com