《镜子大全》《朝华午拾》分享 http://blog.sciencenet.cn/u/liwei999 曾任红小兵,插队修地球,1991年去国离乡,不知行止。

博文

【 立委小品:AI is fake I 】 精选

已有 6102 次阅读 2019-5-18 03:52 |个人分类:立委科普|系统分类:科普集锦

有个关于翻译的疑问, AI 台湾翻译为“人工智慧”, 大陆不知谁最先翻译的,总之一直叫“人工智能”。两岸都没有采用更为贴切的翻译“人造智能”。那些俗称为素鸡素鸭的大豆制品,一般归到 “人造蛋白” 类。“人造蛋白”(或植物蛋白)与“动物蛋白”的距离和区分,可比“人造智能”与“人类智能” 的差异,鸿沟比较清晰。“人工智能/智慧”的译法有很大可能误导或被误解,当然媒体与大众多半乐于误导或被误导,那是另一回事儿。

突然想到老川能把除了 fox 外的主流媒体一律称为 fake news,也可以考虑把AI 叫作 fake intelligence,至少利人是这么认为的:“AI被忽悠得大家都认为是真的了”。

不知道是小报的渲染,还是的确如此,总之印象是,被称为AI牛人的,常常做上帝状,无论说话口气,还是描画蓝图,与其说是使命感,不如说是优越感,自我感觉特别良好。

认真说,明明是artificial,如今开口闭口机器智能,甚至自主推理、自发情感,弄得跟真的似的。巧妙欺骗的时代,连国家首脑都难免受影响,整得风声鹤唳,草木皆兵。貌似狼来了,机器就要统治世界,人类末日即将来临。

我一辈子做自然语言理解(NLU),主攻语言自动解析(parsing),这曾经被广泛认为是语言理解的钥匙,人造智能的皇冠。那天群里老友说,“理解文章上,机器比90%读完高中的人差吧”,我说:

什么叫“理解”?严格说,电脑是0理解。所谓自然语言理解,不过是个比喻的说法,所以图灵测试一开始就绕过“理解”来定义“智能”。区别在于,符号派用一套看上去是模拟理解的符号推理的步骤,也就是在符号系统内自己跟自己玩,过家家的游戏。经验派甚至连这个模拟的过家家也不要了,端到端,别跟我扯理解,你理解了要做什么,给我把要做什么的任务定义出来,然后按照这个定义给我标注数据,越大越好,上不封顶。然后给你把这个任务做出来,照猫画虎。你说它理解了啥?毛都没有。说理解和智能,都是比喻,不改变artificial智能是fake的本质。这并不是要否认模仿的功能性成功。

小时候很长时间惊异于收音机“会说话”,不理解无线电啥玩意能够如此“智能”。记得看过一本书,里面描述凉山少数民族百姓第一次“被看电影”,下面观众惊吓莫名。我妈妈一直在农村读私塾,后来到城里读中学第一次见到汽车在路上跑,跟我描述过当时的震撼。25年前我母校语言学系教授第一次对着苹果电脑叫 “Open Computer”,用语音启动电脑的得意样子还历历在目。还有我们第一次用计算器,第一次走进自动门,上厕所自动冲洗马桶,更甭提第一次用GPS。所有这些fake智能,全是那么真切。可现在全部脱离 I了,成为 non-I。可见,“智能”这东西不仅仅界限模糊,而且很雷人。第一次见到任何非人类出面的“自动”行为或反映,甭管原理简单还是算法复杂,受众都会感觉震撼。这种震撼很容易放大,如果不理解背后的机制和原理,很难不被忽悠。

小时候对于心算快的,算盘打得快的小伙伴,那叫一个羡慕。计算器出来以后,没听说过有人组织过人机计算挑战赛。可是后来的下棋,知识问答,机器翻译,却不断作为智能的里程碑载入史册。回头想想,不就在计算器的延长线上,一多半靠的是memory和computing吗。人跟机拼,傻呀。那些“人机大战”,除了噱头效应外,其实也是非良定义(ill-defined)的为多:苹果怎么好与梨子打架呢。

Artificial 智能,明明是假智能(fake intelligence),里面充满了“巧妙的欺骗“(artful deception,于今为烈,历史上著名的AI批判其实从来没有失效过),如今整得跟真的似的。哲学上、伦理上、媒体上、国际政治上,如今都在说狼来了。

隐约记得以前论过这个话题,一搜果然说过,而且说得还不浅:

“人工智能其实应该翻译为人造智能。人造翻译(或仿人翻译)与人工翻译可大不相同。但取法乎上仅得其中的古训不大灵了,古训忽略了量的概念。被取法者足够大量的时候 所得不止于中。AI 代替中庸 势在必行。取法乎众 可得中上,这是事实。但最好的机器翻译不如最好的人工翻译,这也是事实。因为后者有智能 有理解。而前者虽然号称神经了,其实连“人造的理解”(譬如 NLU)都没有。

现如今人工智能好比一个性感女郎,沾点边的都往上面贴。今天跟一位老人工智能学者谈,他说,其实人工智能本性上就是一个悲催的学科,它是一个中继站,有点像博士后流动站。怎么讲?人工智能的本性就是暂时存放那些机理还没弄清楚的东西,一旦机理清楚了,就“非人工智能化”了(硬赖着不走,拉大旗作虎皮搞宣传的,是另一回事儿),独立出去成为一个专门的学科了。飞机上天了,潜艇下水了,曾几何时,这看上去是多么人工智能啊。现在还有做飞机潜艇的人称自己是搞人工智能的吗?他们属于空气动力学,流体动力学,与AI没有一毛钱的关系。同理,自动驾驶现如今还打着AI的招牌,其实已经与AI没啥关系了。飞机早就自动驾驶了,没人说是人工智能,到了汽车就突然智能起来?说不过去啊。总之,人工智能不是一个能 hold 住很多在它旗下的科学,它会送走一批批 misfits,这是好事儿,这是科学的进步。真正属于人工智能的学问,其实是一个很小的圈圈,就好比真正属于人类智能的部分也是很小的圈圈,二者都比我们直感上认为的范围,要小很多很多。我问,什么才是真正的恒定的AI呢?老友笑道,还是回到前辈们的原始定义吧,其中主要一项叫做“general problem solver”(西蒙 1959)。

from 【尼沙龙笔记:宁顺不信,神经机器翻译的成就和短板】

这个话题足够重要,不妨从不同角度多说说、反复说,被热昏误导的人太多,吹吹冷风,听见一个算一个。



【相关】

【尼沙龙笔记:宁顺不信,神经机器翻译的成就和短板】

人工智能,一个永远没有结果的科学_马少平

【Church - 钟摆摆得太远(3):皮尔斯论】

【语义计算:李白对话录系列】

【置顶:立委NLP博文一览】

《朝华午拾》总目录




https://blog.sciencenet.cn/blog-362400-1179705.html

上一篇:《李白111:范畴细化与语义相谐的知识爆炸》
下一篇:《李白刘114:围着白老师沙龙聊点文字学问》
收藏 IP: 107.3.167.*| 热度|

9 文克玲 李帮建 黄永义 尤明庆 李剑超 朱豫才 雷蕴奇 张鹰 刘钢

该博文允许注册用户评论 请点击登录 评论 (5 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-3-19 12:06

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部