||
看到一个视频,一个有上百万粉丝的程序员 Tech Lead 说 ChatGPT 只是进行模式匹配(pattern match),根本不懂你在说什么。看来,即便是程序员,不学习新知识,也将会被迅速淘汰。不客气的说,ChatGPT 写的程序比大部分程序员强。
人工神经网络正是在模拟大脑。大脑里单个脑细胞、神经元是没有任何智力的。把巨多的神经元连起来,经过一阵学习就具备了智力。任何计算与思维都可以用 y=F(x),输入一些东西,一个函数F运算后输出一些东西 y。人工智能就是构造一个由人工神经元(其实就是一些可变参数的矩阵)组成的网络,通过训练,调节每个神经元的参数,构造函数F。问题在于,怎么有效、高效地构造它。
GPT则是依据2017年的一篇论文,《Attention Is All You Need》(你只需要注意力)。该论文发明了叫做 Attention 的机制,我在这里介绍过(最火人工智能技术--你只需要注意力 ) 。在这基础上建立了所谓 Tranformer 架构。正是这个 Attention 机制使得AI能够完全通过自行阅读各种资料高效地自学成才。
阿发狗下围棋下得柯洁哭不是简单的匹配定式,而是高一级的围棋思维。而竟在阿法狗之后,谷歌又使用新的研究成果升级,之前需要输入围棋规则,后来连规则都不需要,全部自学成才,而这样水平更高,现在估计要让柯洁三子。这个自学围棋规则的神经网络被用于蛋白质折叠的问题,能够从已知的蛋白质结构自己推导出相关的物理,从而一举解决 protein folding的问题。原来多少研究人员辛苦半年才能测定一个蛋白质,谷歌一次性全部解决了。导致多少高端生物人才失业。
阿法狗只用到卷积网络,ChatGPT 用到 Attention。ChatGPT 就是阅读了几乎所有的书籍、文献、网页,还能够把这些知识有机的关联起来。跟纯粹 Transformer 不同点在于,它还经过了一定的人工强化训练(现在的广大用户也在给它提供训练机会)。它完全知道你说的是什么,而且能根据它已经掌握的知识做出回应。但这绝对不是终极技术,而只是初露头角。
那些还在用逻辑程序思维看待人工智能的,应该自己亲身体验下。现在有很多开源的基于阿法狗论文的围棋程序,试着下下看。也可以问 ChatGPT 各种问题。(目前它在数学方面的训练好像还不够)
#人工智能##chatgpt#
1/1 | 闂傚倸鍊搁崐鎼佸磹閹间礁纾归柟闂寸绾惧湱鈧懓瀚崳纾嬨亹閹烘垹鍊炲銈嗗笒椤︿即寮查鍫熲拺闁告繂瀚埢澶愭煕濡灝浜圭紒顔肩墦瀹曞ジ鎮㈢粙鍨紟婵犳鍠楅〃鍛涘Δ鍛闁挎洖鍊归悡銉︾節闂堟稒锛嶆俊鎻掓憸缁辨帡鎮╅悜妯煎涧婵烇絽娲ら敃顏呬繆閸洖妞介柛鎰ㄦ櫆閺嗕即姊绘担鍛婃儓闁归攱鍨圭槐鐐存媴閸撳弶缍庨梺鎯х箺椤鐣锋径鎰厪濠电偛鐏濋崝婊堟煟濠靛嫬鐏叉慨濠冩そ閹兘寮堕幐搴敤闂備胶鎳撻崵鏍箯閿燂拷:4 | 濠电姷鏁告慨鐑藉极閸涘﹥鍙忛柣鎴濐潟閳ь剙鍊块幐濠冪珶閳哄绉€规洏鍔戝鍫曞箣閻欏懐骞㈤梻鍌欐祰椤鐣峰Ο琛℃灃婵炴垶纰嶉浠嬫煏閸繃鍟掗柡鍐ㄧ墛閺呮煡鏌涘☉鍗炲箺婵炲牊鐓″铏圭矙濞嗘儳鍓板銈嗗灥椤﹂潧顕f繝姘櫜闁告稑鍊婚崰搴ㄥ煝鎼淬劌绠氱憸搴敊閸曨垱鐓涘璺烘濞呭棛绱掔拠鑼妞ゎ偄绻橀幖鍦喆閸曨偆锛忛梻渚€娼ф灙闁稿孩鐓¢幃鐢稿閵堝棌鎷洪梺鑽ゅ枑濠㈡ê鈻撻埡鍛厵闁告垯鍊栫€氾拷 | 濠电姷鏁告慨鐑藉极閸涘﹥鍙忛柣鎴f閺嬩線鏌熼梻瀵割槮缁炬儳顭烽弻锝夊箛椤掍焦鍎撻梺鎼炲妼閸婂潡寮诲☉銏╂晝闁挎繂妫涢ˇ銉х磽娴e搫小闁告濞婂濠氭偄閸忓皷鎷婚柣搴f暩鏋┑鈥茬矙濮婃椽宕崟顒€娅ょ紓浣筋嚙閻楁挸顕f繝姘╅柕澶堝灪閺傗偓闂備胶纭堕崜婵嬫晪缂備焦鍔栭惄顖氼潖濞差亜宸濆┑鐘插閻g兘鎮楅崗澶婁壕闂佸綊妫跨粈浣虹不閺嶃劋绻嗛柕鍫濆€告禍楣冩⒑鐎圭姵顥夋い锔诲灦閸┿垹顓奸崱妯肩Ф闂侀潧臎閸涱垰甯掔紓鍌氬€风粈渚€宕愰崫銉х煋闁圭虎鍠撻崑鎴澝归崗鍏肩稇闂佸崬娲弻锝夊棘閹稿孩鍎撻悗娈垮枟婵炲﹤顫忕紒妯诲闁惧繒鎳撶粭鈥斥攽閻愭彃绾ч柣妤冨Т閻g兘骞囬弶鎸庡祶濡炪倖鎸荤粙鎴炵閻愵剚鍙忔俊顖滃帶娴滈箖鎮楀鐐 | 濠电姷鏁告慨鐑藉极閸涘﹥鍙忛柣鎴f閺嬩線鏌熼梻瀵割槮缁炬儳顭烽弻锝夊箛椤掍焦鍎撻梺鎼炲妼閸婂潡寮诲☉銏╂晝闁挎繂妫涢ˇ銉х磽娴e搫小闁告濞婂濠氭偄閸忓皷鎷婚柣搴$仛閻℃洜绮eΔ鍛拺閺夌偞澹嗛ˇ锕傛倵濮橆偄宓嗙€殿喛顕ч埥澶愬閻樻彃绁梻渚€娼ф灙闁稿氦浜划缁樼節濮橆厸鎷洪梺鍛婄☉楗潙鈻撻弴鐘亾閸忓浜鹃梺褰掓?缁€浣虹不閺嶃劋绻嗛柕鍫濆€告禍楣冩⒑鐎圭姵顥夋い锔诲灦閸┿垹顓奸崱妯肩Ф闂侀潧臎閸涱垰甯掔紓鍌氬€风粈渚€宕愰崫銉х煋闁圭虎鍠撻崑鎴澝归崗鍏肩稇闂佸崬娲弻锝夊棘閹稿孩鍎撻悗娈垮枟婵炲﹤顫忕紒妯诲闁惧繒鎳撶粭鈥斥攽閻愭彃绾ч柣妤冨Т閻g兘骞囬弶鎸庡祶濡炪倖鎸荤粙鎴炵閻愵剚鍙忔俊顖滃帶娴滈箖鎮楀鐐 | 闂傚倸鍊搁崐鎼佸磹閹间礁纾归柟闂寸绾剧懓顪冪€n亝鎹i柣顓炴閵嗘帒顫濋敐鍛婵°倗濮烽崑鐐烘偋閻樻眹鈧線寮撮姀鈩冩珕闂佽姤锚椤︻喚绱旈弴鐔虹瘈闁汇垽娼у瓭闂佹寧娲忛崐婵嬪箖瑜斿畷鍗炩枎韫囷絾顥¢梺鑽ゅТ濞诧妇绮婇幘顔肩哗濞寸姴顑嗛悡鐔镐繆椤栨碍鎯堢紒鐙欏洦鐓欓柛蹇曞帶婵牊绻涢懝閭﹀殭闁宠鍨归埀顒婄秵閸嬧偓闁归攱妞介弻锝夋偐閸忓懓鍩呴梺鍛婃煥閼活垶鍩㈠澶婄疀闁绘鐗忛崢鐢告⒑閸涘﹤鐏熼柛濠冪墱閳ь剚鐔幏锟� | 闂傚倸鍊搁崐鎼佸磹閹间礁纾圭€瑰嫭鍣磋ぐ鎺戠倞鐟滃繘寮抽敃鍌涚厱妞ゎ厽鍨垫禍婵嬫煕濞嗗繒绠婚柡宀€鍠撶槐鎺楀閻樺磭浜紓鍌欒兌婵箖锝炴径鎰﹂柛鏇ㄥ灠缁犳盯鏌涢锝嗙妞ゅ骸绉瑰铏圭矙濞嗘儳鍓炬繛瀛樼矤娴滎亜顕g拠娴嬫闁靛繒濮堥妸锔轰簻闁哄倸鐏濈紞鏍ㄦ叏鐟欏嫷娈滈柟顔煎槻楗即宕ㄩ褎姣夐梺姹囧焺閸ㄩ亶銆冩繝鍌ゅ殨闁哄被鍎辩粻鐟懊归敐鍛础闁告瑥妫濆铏圭磼濡崵顦ラ梺绋匡工濠€閬嶅焵椤掍胶鍟查柟鍑ゆ嫹 |
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2025-1-21 21:02
Powered by ScienceNet.cn
Copyright © 2007-2025 中国科学报社