dwchen的个人博客分享 http://blog.sciencenet.cn/u/dwchen

博文

大模型可能带来的五大危害不可不察 精选

已有 6900 次阅读 2023-12-6 08:49 |个人分类:大模型|系统分类:观点评述

大模型可能带来的五大危害不可不察 

大模型是最近人工智能技术的热点中的热点。开口不谈大模型,似乎就不懂人工智能了。我们人类通过购买大量的GPU卡,搜集大量的训练数据,采用大量的训练,终于创造了一个无所不知的“神灵“。他有问必答,能写会说,上知天文、下知地理,古今中外、无所不知,类似于古龙小说中的百晓生和三国演义中的诸葛亮。我们有什么问题都可以问它,它都能给出一些有条理的合理建议。

大模型好像还有智商,不仅可以参加各种考试,还可以创作语音、图片和视频,可以很容易创造大量以假乱真的信息,让人真假难辨。 赵本山可以讲流利的英语,奥巴马可以讲流畅的中文,口型都能对得上,惟妙惟肖。大模型是否有真正的智能,我们暂且不论。但是,大模型却可能给我们人类社会带来巨大危害,主要体现在以下5个方面。

首先,大投入。OpenAI的主要投资者微软投入数亿美元资金为OpenAI打造了一套超算系统,由上万颗单价为数万美元英伟达A100芯片组成。依靠大量投入实现的所谓大模型,过几年后,也许会发现现在的技术路线也许是错的,有更好的解决方案。那么,现在大量的投入将打了水漂。所以,跟进大模型要小心谨慎,不能一哄而上。

其次,大能耗。Open AI为训练ChatGPT提供了3640PF-days的算力消耗(即假如每秒计算一千万亿次、连续计算3640天),消耗了巨大的电能。以前2年数据翻一倍,有了大模型,可以快速生成文本、语音和视频,估计以后一年数据要翻2倍。 据统计,现在的大模型已经消耗了约5%的人类电力,而且还在快速增长中,是难以持续的,不符合社会可持续发展的理念。

第三,大侵权。大模型采用网络上大量的数据进行训练学习,其输出结果融合了各家的数据和观点,已经很难分清楚是侵谁的权了。尤其,能快速生成大量的文字、语音、图片和视频,使得网上的虚假信息将远远超过真实信息,网络监管的难度因此大大增加。“耳听为虚,眼见为实”,已经变成了“一切皆虚,难信为实”,大模型将导致信息虚无主义。

第四 大失业。有了大模型将导致大批从事脑力劳动的人员失业,比如文秘、绘画师、视频剪接工作者,甚至编程人员。财富将进一步聚集到OpenAI这类号称非盈利的公司,其盈利将惊人,一年会费收入可能超过8年研发投入,此后更是一发不可收拾。大量失业人员将对经济消费、社会稳定造成严重的危害。

最后,大偷懒。大模型最大的危害也许是带来整体人类的偷懒,不愿意动脑思考,啥都要问大模型,让大模型帮助自己解决问题。用进废退,久而久之,人类的思考能力、写作能力、想象能力、计算能力、推理能力等将大大退化。虽然目前大模型还没有自我意识,但是未来谁也不好说。假设100年后,人类的智商集体下降到现在的10%。到时候,大模型进化出了自我意识才真正可怕,人类的未来堪忧。

总而言之,人类要居安思危看待大模型这类所谓颠覆性技术。技术都是双刃剑,就看我们人类怎么合理使用,千万不要盲目发展,以免引火烧身。




https://blog.sciencenet.cn/blog-57940-1412633.html

上一篇:诺贝尔科学奖颁发之后的冷静思考
下一篇:人工智能产业要悠着点才能可持续发展
收藏 IP: 218.104.225.*| 热度|

24 郑永军 段含明 曹俊兴 吴超 郑强 杨正瓴 周忠浩 许培扬 汪凯 李剑超 王宏琳 武夷山 晏成和 崔锦华 孙冰 檀成龙 王安良 苏德辰 彭真明 宁利中 李学宽 汪运山 焦飞 葛及

该博文允许注册用户评论 请点击登录 评论 (12 个评论)

IP: 111.161.10.*   | 闂備浇宕垫慨宥咁吋閸℃浼� 闂備浇宕垫慨宥咁吋閸℃浼� +1 [2]闂傚倸鍊搁崐鎼佸磹閸喐缂氱憸蹇涙嚍闁秴鐭楀鑸瞪戦鏃堟⒑鐠恒劌娅愰柟鍑ゆ嫹   2011-3-26 09:11
闂備浇顕х€涒晠宕橀懡銈囩=婵ê宕慨顒勬煕閺囥劌澧版い鈺傜叀閺屾盯鍩ラ崱妤€绠荤紒鐐嫕閹凤拷
IP: 166.111.49.*   | 闂備浇宕垫慨宥咁吋閸℃浼� 闂備浇宕垫慨宥咁吋閸℃浼� +1 [1]闂佽瀛╅鏍窗濮橆厽鍙忕€规洖娲﹂~鏇㈡煥閻曞倹瀚�   2011-3-26 09:00
   婵犵數鍋為崹鍫曞箰閸濄儳鐭撻悗闈涙啞椤愪粙寮堕崼姘珕闁哥喎鎼妴鎺戭潩閿濆懍澹曟俊鐐€х紞鍡涘磻婵犲洤鏋佺€广儱妫欓崕鐔兼煏閸繈顎楅柟顔碱儔濮婂搫煤鐠佸磭鏁栭梺鍝ュУ閹告悂鍩㈤幘璇茬闁挎洍鍋撻柛鎰ㄥ亾闂備礁鍚嬬粊鎾疾濞戙垹鐓曢柡宥庡幗閻撶姷鈧懓瀚伴崑濠囧吹閻斿吋鐓熼柟鍨缁♀偓闂佽桨绀佺粔鎾偩濠靛鐒垫い鎺戝€婚惌鍡欌偓鍏夊亾闁逞屽墴楠炲繗銇愰幒鎳斥晠鏌曟径娑橆洭婵炲牄鍊栫换娑㈠级閹存繃鍊悗鍏夊亾闁归棿鐒﹂崑鐔搞亜閺囨浜鹃梺璇″枦濡嫰锝炲┑瀣闁告瑥顦介崯搴ㄦ⒒娴e憡鎯堟い锔芥緲椤灝顫滈埀顒€鐣烽悽鍓叉晣闁靛繆鍓濆▍鏍煟韫囨洖浠╅柛瀣姈鐎靛ジ骞囬鑺ユ杸闂佺偨鍎遍崯鎸庣閹殿喚纾奸弶鍫涘妽缁跺弶銇勯銏㈢闁瑰嘲鎳愰幉鎾礋閵娿儰澹曢梺闈涱槶閸庮噣寮ㄩ敃鍌涚厽闁哄啠鍋撻柛搴°偢瀹曘垽顢楅崟顒€鈧灚绻涢幋婵嗘毐妞も晩鍓熼弻鈩冩媴鐟欏嫬纾抽梺纭呮珪閹哥偓绂掗敃鍌涘癄濠㈣泛锕ラ濂告⒒娴g懓顕滈柛鎰煼楠炲繘鏁撻敓锟�
闂傚倷鐒﹂幃鍫曞磿閹惰棄纾绘繛鎴旀嚍閸ヮ剚鏅搁柨鐕傛嫹  闂傚倷鐒︾€笛囧礃婵犳艾绠柨鐕傛嫹 婵犵數鍋涢顓熸叏鐎电硶鍋撳☉鎺撴珚闁诡噯绻濆畷鍫曞Ω瑜夐弸鏍⒑闁偛鑻晶顖滅磼鐎n亶妯€妞ゃ垺妫冨畷鐔碱敃閵忋垺鈻曟繝鐢靛仩閹活亞寰婃ィ鍐ㄧ闁诡垎鈧弸鏃堟煙鐎电ǹ浠фい鈺傚絻铻栭柨鏇楀亾缂併劑浜跺畷鎴﹀箻瀹曞洦娈曢梺鍛婂姧缁查箖鎮楁导瀛樷拺闁圭ǹ娴烽埥澶愭煠濞茶鐏︽鐐插暣瀹曞爼鍩¢崘顏嗗帬闁诲骸绠嶉崕閬嶅箠鎼达絾濯奸柡灞诲劜閻撶娀鎮楅崷顓炐㈢悮姘舵⒑闁偛鑻崝顖炴煕閵夋垵鍟粻锝夋⒒娴e憡鎯堥柣妤€妫濊棟闁告鍋愰弸鏃堟煙鏉堝墽鐣辨潻婵嬫⒑缁嬫寧婀伴柣鐔濆懐鐭欏┑鐘崇閻撴瑩鎮楀☉娅亪鎮樻潏鈺冪<缂備焦岣挎晶鐢告煛鐏炵晫鐏卞ù鐙呯畵閹剝鎯旈敐鍠版帡姊洪懡銈呮瀾婵炲弶鍨甸湁闁搞儮鏅滃畷鏌ユ煛閸ャ儱鐏╅柛娆忥攻閵囧嫰寮介妸褎鍣梺娲诲幑閸婃繈寮婚埄鍐╁闁革富鍘介崳顖炴⒑缁嬫鍎愮紒瀣浮楠炲繘宕ㄩ娑樼墯闂侀€炲苯澧伴柟宄扮秺閹垽宕妷銏$亙闂備線鈧偛鑻晶顖滅磼鐎n亶妯€妞ゃ垺妫冨畷鐔碱敆閸屻倖鍠橀梻浣筋嚙濞寸兘銆佹繝鍌楁灃婵炴垯鍨洪崑鍌炴煕瑜庨〃鍛矆閸岀偞鍋eù锝堝Г閻濐亪鏌i鍐煓闁哄本鐩顕€鍩€椤掑倻鐭欓柡宥庡亞閻牊銇勯幇銊﹀櫚闁衡偓閿曞倹鐓欓梺顓ㄧ畱閻忥絿绱掗悩鍨殌闁宠棄顦甸獮娆撳礃瑜庨幑锝咁渻閵堝骸浜濇い銊ユ楠炲棝寮崼鐔告珕闂佸吋浜介崕闈涱瀶閻戣姤鐓熼柣妯块哺缁佷即鎮樿箛鏃傛噧闁崇粯鎹囬獮瀣晝閳ь剝绻氶梻浣芥硶閸o箓骞忛敓锟�
2011-3-26 11:241 濠电姴鐥夐弶搴撳亾濡ゅ懎违閻庯綆鍓氶~鏇熺箾閸℃ɑ灏柣鎰躬閺岋綁骞囬浣叉灆濠德ゅ皺缁垱绌辨繝鍥у璺侯儜缁辩敻鏌f惔銊︽锭闁活厼鍊垮顐㈩吋婢跺娅㈤梺璺ㄥ櫐閹凤拷 闂備浇宕垫慨宥咁吋閸℃浼� 闂備浇宕垫慨宥咁吋閸℃浼� +1 |

1/1 | 闂傚倷娴囬鏍礈濮橆儵锝夊箳濡ゅ﹥鏅i梺璺ㄥ櫐閹凤拷:2 | 婵犵妲呴崑鎾跺緤妤e啯鍋嬮柣妯款嚙杩濋梺璺ㄥ櫐閹凤拷 | 婵犵數鍋為崹鍫曞箰閹间焦鏅濋柨婵嗘川閸楁岸鎮楀☉娅辨粍绂嶅⿰鍫熺叆闁绘洖鍊圭€氾拷 | 婵犵數鍋為崹鍫曞箰閹间緡鏁勯柛鏇ㄥ幘閸楁岸鎮楀☉娅辨粍绂嶅⿰鍫熺叆闁绘洖鍊圭€氾拷 | 闂傚倷绀侀幖顐︽偋濠婂牆纾诲┑鐘叉搐杩濋梺璺ㄥ櫐閹凤拷 | 闂備浇宕垫慨鎾箹椤愶附鍋柛銉亹瑜版帗鏅搁柨鐕傛嫹

扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2025-3-18 13:53

Powered by ScienceNet.cn

Copyright © 2007-2025 中国科学报社

返回顶部