dwchen的个人博客分享 http://blog.sciencenet.cn/u/dwchen

博文

大模型可能带来的五大危害不可不察 精选

已有 4407 次阅读 2023-12-6 08:49 |个人分类:大模型|系统分类:观点评述

大模型可能带来的五大危害不可不察 

大模型是最近人工智能技术的热点中的热点。开口不谈大模型,似乎就不懂人工智能了。我们人类通过购买大量的GPU卡,搜集大量的训练数据,采用大量的训练,终于创造了一个无所不知的“神灵“。他有问必答,能写会说,上知天文、下知地理,古今中外、无所不知,类似于古龙小说中的百晓生和三国演义中的诸葛亮。我们有什么问题都可以问它,它都能给出一些有条理的合理建议。

大模型好像还有智商,不仅可以参加各种考试,还可以创作语音、图片和视频,可以很容易创造大量以假乱真的信息,让人真假难辨。 赵本山可以讲流利的英语,奥巴马可以讲流畅的中文,口型都能对得上,惟妙惟肖。大模型是否有真正的智能,我们暂且不论。但是,大模型却可能给我们人类社会带来巨大危害,主要体现在以下5个方面。

首先,大投入。OpenAI的主要投资者微软投入数亿美元资金为OpenAI打造了一套超算系统,由上万颗单价为数万美元英伟达A100芯片组成。依靠大量投入实现的所谓大模型,过几年后,也许会发现现在的技术路线也许是错的,有更好的解决方案。那么,现在大量的投入将打了水漂。所以,跟进大模型要小心谨慎,不能一哄而上。

其次,大能耗。Open AI为训练ChatGPT提供了3640PF-days的算力消耗(即假如每秒计算一千万亿次、连续计算3640天),消耗了巨大的电能。以前2年数据翻一倍,有了大模型,可以快速生成文本、语音和视频,估计以后一年数据要翻2倍。 据统计,现在的大模型已经消耗了约5%的人类电力,而且还在快速增长中,是难以持续的,不符合社会可持续发展的理念。

第三,大侵权。大模型采用网络上大量的数据进行训练学习,其输出结果融合了各家的数据和观点,已经很难分清楚是侵谁的权了。尤其,能快速生成大量的文字、语音、图片和视频,使得网上的虚假信息将远远超过真实信息,网络监管的难度因此大大增加。“耳听为虚,眼见为实”,已经变成了“一切皆虚,难信为实”,大模型将导致信息虚无主义。

第四 大失业。有了大模型将导致大批从事脑力劳动的人员失业,比如文秘、绘画师、视频剪接工作者,甚至编程人员。财富将进一步聚集到OpenAI这类号称非盈利的公司,其盈利将惊人,一年会费收入可能超过8年研发投入,此后更是一发不可收拾。大量失业人员将对经济消费、社会稳定造成严重的危害。

最后,大偷懒。大模型最大的危害也许是带来整体人类的偷懒,不愿意动脑思考,啥都要问大模型,让大模型帮助自己解决问题。用进废退,久而久之,人类的思考能力、写作能力、想象能力、计算能力、推理能力等将大大退化。虽然目前大模型还没有自我意识,但是未来谁也不好说。假设100年后,人类的智商集体下降到现在的10%。到时候,大模型进化出了自我意识才真正可怕,人类的未来堪忧。

总而言之,人类要居安思危看待大模型这类所谓颠覆性技术。技术都是双刃剑,就看我们人类怎么合理使用,千万不要盲目发展,以免引火烧身。




https://blog.sciencenet.cn/blog-57940-1412633.html

上一篇:诺贝尔科学奖颁发之后的冷静思考
下一篇:人工智能产业要悠着点才能可持续发展
收藏 IP: 218.104.225.*| 热度|

24 郑永军 段含明 曹俊兴 吴超 郑强 杨正瓴 周忠浩 许培扬 汪凯 李剑超 王宏琳 武夷山 晏成和 崔锦华 孙冰 檀成龙 王安良 苏德辰 彭真明 宁利中 李学宽 汪运山 焦飞 葛及

该博文允许注册用户评论 请点击登录 评论 (12 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-2-22 18:37

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部