互联网进化论-刘锋分享 http://blog.sciencenet.cn/u/liufeng

博文

监管生成式人工智能的建议,将重大探索的压力分散给全社会承担

已有 1739 次阅读 2023-4-17 14:46 |系统分类:观点评述

摘要:生成式人工智能AIGC是人类文明进步的一项重大革命技术,对提升国家竞争力有重要价值。AIGC仍是尚处于发展初期的新生事物。对AIGC的监管我们建议“包容引导生产端,教育管理消费端”,将重大探索的压力分散给全社会承担。

正文

2022年以来,伴随着ChatGPT,GPT4等大模型的推出,Midjourney,podcast、GitHub Copilot等绘图,语音编辑和编程工具的兴起,生成式人工智能(AIGC)在世界范围成为新的科技热潮。

 在人们畅想AIGC对人类未来带来的巨大改变的同时,一个现实的担忧也悄然升起。那就是AIGC会产生虚假信息,臆造信息,甚至有违道德伦理和法律(当地)的信息,人们担心随着AIGC的大量使用,会使得虚假信息大量充斥网络世界和现实世界,对人类社会产生不可预估的危害。

 由此国家互联网信息办公室4月11日发布《生成式人工智能服务管理办法(征求意见稿)》,对AIGC的管理提前介入,尽量减少可能的负面影响。对于处于探索期的AIGC,政府监管也同样具有积极的探索意义,为人类社会如何更好的与人工智能相处积累宝贵经验。因为是探索和征求意见,我们也从自己的研究角度,对如何管理AIGC提出若干思考和建议供参考。

1.以大模型为代表的生成式人工智能(AIGC)是比互联网,万维网、搜索引擎、社交网络更为重大革命创新技术(集成),本质上,互联网和万维网为人类的知识库的外化和显化奠定了基础,搜索引擎实现了人类知识库的索引化,帮助人类快速查找知识。而以大模型为代表的AIGC实现了人类知识库的智能化,第一次实现了基于人类知识库的智能系统,并接近或已经能完成图灵测试。

 2.生成式人工智能AIGC的崛起对人类文明进步有重大意义,相对与工业革命解放了手和腿,生成式人工智能将人类从重复性,低创造性的智力劳动中解放出来。让更多人可以从事高质量高层级的创新活动,因此AIGC发展好的国家,其科技、文化、经济的创新能力将出现马太效应。整个社会的科技文明程度会大幅提升。同时大模型为代表的AIGC对于经济、政治、军事的宏观辅助决策也将起到重要作用。对国家的核心竞争力将有重大影响。

 3.生成式人工智能AIGC出现虚假信息和臆造信息,本质上是其创新能力的一种表现(但不成熟和稳定)。2022年以来生成式人工智能的兴起,带给人类社会最大的惊喜就是其在文字、图像、声音、视频、编程等领域的创新能力。当人类的需求不是寻求创新的信息,而是要求严谨的与现实相符的内容时,受其训练的技术原理和使用的庞大知识库的影响。AIGC不成熟,不稳定的创新能力反而被批评的软肋。但实际上变化的是人类的需求,不变的是AIGC的创新能力。

 4. AIGC的突然爆发对人类是新课题,如何监管同样是新课题,都具有探索性,基于AIGC对社会提升和国家竞争的重大意义,我们认为在监管上,适宜对AIGC生产端采取包容引导的政策,对AIGC消费端采取教育管理的政策。AIGC生产端是指ChatGPT、文心一言、通义千问、Midjourney这样的智能系统,AIGC消费端是指使用AIGC智能系统形成的作品对外发布的个人或单位。

 5. 在AIGC领域,包容引导生成端,教育管理消费端的监管建议,其中的逻辑是:生成端虽然会产生虚假信息,但如果消费者不交互,不对外发布,虚假信息最多处于消费者在AIGC系统的个人账户中,而不会对社会产生影响。虚假信息,臆造信息对AIGC生成端是其不稳定创新能力的表现,可以给与生成端企业更多的空间进行改进、优化,让其减少包袱向前发展。但对于消费端要给与政策提醒和管理,要求他们在引用好发布AIGC创作的内容时文责自负,做好审核和验证的工作,如果造成负面影响和损失,应该由发布者承担责任,这样把压力分散到使用端和消费端,并与当前国家已经实施的网络管理办法相结合,充分利用国家已有的成熟监管模式,降低创新方向的探索试错成本。

 6. 虽然ChatGPT、文心一言、通义千问、Midjourney等大模型或AIGC表现出令人振奋的创新能力,但总体上来讲,它们仍然是尚处于发展初期的新生事物,这时候如果监管要求它们的生成的内容“应当真实准确,采取措施防止生成虚假信息”,不但在实现技术上难度大,同时很可能会阻碍它们创新能力的进一步发展,甚至导致一些创新者、探索者的项目夭折,但如果我们要求引用这些幼童说话内容的成年人(消费者)对外传播时,能够提前进行自我审核、自我验证、文责自负,这一点可以将新领域探索的压力分散到整个社会来承担,也和当前对网络和社会舆论的监管政策相吻合。

 作者:刘锋 中国科学院虚拟经济与数据科学研究中心研究组成员、中国指挥与控制学会城市大脑专委会副主任兼秘书长




https://blog.sciencenet.cn/blog-39263-1384560.html

上一篇:城市大脑的基本原理与战略意义分析
下一篇:从人类种群知识库的进化看大模型的未来趋势
收藏 IP: 123.122.160.*| 热度|

2 武夷山 农绍庄

该博文允许注册用户评论 请点击登录 评论 (2 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-6-23 05:47

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部