程京德(Jingde Cheng)的博 ...分享 http://blog.sciencenet.cn/u/JingdeCheng 相关逻辑,软件工程,知识工程,信息安全性工程;自强不息,厚德载物。

博文

人类应该如何面对由 AIGC 工具生成内容带来的困惑? 精选

已有 3294 次阅读 2023-12-28 10:58 |个人分类:人工智能|系统分类:科研笔记

[敬请读者注意] 本人保留本文的全部著作权利。如果哪位读者使用本文所描述内容,请务必如实引用并明白注明本文出处。如果本人发现任何人擅自使用本文任何部分内容而不明白注明出处,恕本人在网上广泛公布侵权者姓名。敬请各位读者注意,谢谢!



人类应该如何面对由 AIGC 工具生成内容带来的困惑?

程京德

 

自从以 ChatGPT 为代表的 AIGC 工具风行于世以来,笔者一直在思考 AIGC 工具对人类社会的影响,并且撰写了一系列评论文章 [1-8]。 

现在,由 AIGC 工具生成的绘画、动画、视频、音乐、(未必被承认为音乐的)音响作品、科幻小说、文学作品等似乎已经充斥网上,并且还在急速增加。笔者个人当然无能力去调查网上由人类创造生成的原生数据和由 AIGC 工具生成的衍生数据的各占比例有多少,但是觉得我们的确到了要认真考虑由 AIGC 工具生成内容给人类带来之困惑的对策的时候了。 

笔者首先要说的是,所有由 AIGC 工具生成的衍生数据都是人类个体作为行为主体使用同样由人类个体作为行为主体开发的 AIGC 工具所产生的。所以,问题发生在我们人类社会当中,本质上并非由AI技术所致。 

与逻辑学、数学、各种科学领域内对于记载在学术文献中知识的真实性及正确性有着比较严格精确的评价标准的情形不同,人类社会对人文领域内的各种艺术作品本来就没有严格精确的评价标准。但是,无论有无严格精确的评价标准,由 AIGC 工具生成内容给人类带来之困惑确是无处不在的。 

由 AIGC 工具生成内容给人类带来之困惑,首先是当人们日常接触到的衍生数据远远多于原生数据时,对于所面临数据的真实性和信凭性的无奈质疑,必将破坏人类社会长期形成的认知逻辑准则 [1]。试想,一个遇到任何数据都必须首先甄别其真假之后才能考虑其有用性有效性的人类社会,还能存在一般的认知逻辑准则吗?这种每时每刻每地都不得不做的甄别,对于全人类的智力和时间是多么大的无端浪费?

让我们以最早受到技术工具影响的摄影为例来说明。摄影,是用照相机/摄影机/摄像机拍摄并记录下被拍摄对象的画面而保存在媒介中以便提供给人们长期观赏的一系列活动。因此,摄影即可以是艺术创作也可以是事实记录。基于相片/录影/录像的真实性和信凭性,摄影及其作品成为人类社会中新闻报道及事件记录之不可或缺的手段。然而,当其真实性和信凭性值得质疑甚至不得不质疑的时候,相片/录影/录像之作用当然也就大打折扣甚至毫无价值了(比如在侦破各种案件之中的作用)。现今,AIGC 工具已经远非PS技术工具对原始相片/录影/录像加工修改那样,而是可以凭空捏造出原本根本不存在的相片/录影/录像内容了。

由 AIGC 工具生成内容给人类带来之困惑,其次是人们以人类历史上形成的通常思维模式和价值观念已经难于理解和评价由 AIGC 工具生成的内容,尤其是人文领域内的各种作品了。

对于由语言 AIGC 工具生成的文字内容,因为有语言的语法规范,人们可以视那些不符合语法规范的文字内容为“垃圾”不予理会,只对符合语法规范的文字内容去理解和评价其语义就是了。但是,对于由 AIGC 工具生成的图像影像和音乐音响等作品,因为没有任何规范的束缚,极端地说任何内容都是合理的,其内容对现实世界的超脱可以让人们根本就无从以通常思维模式和价值观念去理解和评价,陷入一种茫然不知所措的境地。请注意,这种场景与欣赏抽象派画家或者先锋派音乐家的作品与否是不同的。抽象派画家或者先锋派音乐家的作品,也是画家们和作曲家们按照人类通常的思维方式以及各自的创作风格创作出来的作品,尽管不能被所有人欣赏,但是毕竟也是能够被一部分人所欣赏和评价的。然而,对于由 AIGC 工具生成的图像影像和音乐音响等作品,可能根本就没有任何人能够欣赏和评价,最终结果很可能是:“哦,原来计算机可以这么创作啊!”

由 AIGC 工具生成内容给人类带来之困惑,第三,但是很可能是最重要的,是幼儿教育和初等教育今后怎样实施的问题。世界上无论什么国家地域,在幼儿教育和初等教育阶段,都是教育儿童及少年最基本的思维方式、道德标准、评价标准,以作为今后具有独立人格之成人的成长基础。现在,在幼儿都能够使用计算机工具以及接触到互联网上的各种内容的时代,对于连现代成年人都有可能不知所措的由 AIGC 工具生成的内容,怎么教育儿童和青少年们?

那么,人类应该如何面对由 AIGC 工具生成内容带来的困惑呢?

笔者的主要观点是:制定法律实施法治,当然是解决问题的一个方策。但是,法律法治毕竟是与国家地域密切相关的。在互联网这个没有国界的社会,通过教育和宣传,在人类社会中形成一种共识作为全人类共同的道德规范,可能更为重要甚至是必要的。而实现这个愿景,需要人类社会各个国家、各种国际组织、各种教育及宣传机构的长期工作。首先,最最重要的第一步,必须认识到由 AIGC 工具生成内容带来的困惑这个问题的严重性。

(2023年12月28日记)

 

参考文献

[1] 程京德,“以 ChatGPT 为代表的无偿式概率式自动生成工具之滥用将给人类社会带来什么后果?”,微信公众号“数理逻辑与哲学逻辑”,科学网博客,2023年2月6日。

[2] 程京德,“ChatGPT 的原理局限性:它永远不会做什么?”,微信公众号“数理逻辑与哲学逻辑”,科学网博客,2023年2月10日。

[3] 程京德,“对关于 ChatGPT 的两篇文章之补充说明”,微信公众号“数理逻辑与哲学逻辑”,科学网博客,2023年2月17日。

[4] 程京德,“论“创造/创作/创新”及 AIGC 工具的“创造性””,微信公众号“数理逻辑与哲学逻辑”,科学网博客,2023年3月8日。

[5] 程京德,“从“数据”与“信息”的概念之差看 AIGC 工具衍生数据对人类社会的影响”,微信公众号“数理逻辑与哲学逻辑”,科学网博客,2023年4月24日。

[6] 程京德,“对 Hinton 的 AI 恐惧论观点之评论”,微信公众号“数理逻辑与哲学逻辑”,科学网博客,2023年5月9日。

[7] 程京德,“威胁人类文明生存的不可能是 AI 而只能是人类自己”,微信公众号“数理逻辑与哲学逻辑”,科学网博客,2023年5月18日。

[8] 程京德,“对 Sam Altman 关于 AGI 及 GPT-10 之预言的批评”,微信公众号“数理逻辑与哲学逻辑”,科学网博客,2023年9月11日。

 

微信公众号“数理逻辑与哲学逻辑”




https://blog.sciencenet.cn/blog-2371919-1415642.html

上一篇:“8-1>8” 与软件系统研发 -- 清华园随笔(4)
下一篇:《纽约时报》起诉 OpenAI及MS 案件的社会影响
收藏 IP: 111.216.90.*| 热度|

1 谢钢

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-14 19:06

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部