《镜子大全》《朝华午拾》分享 http://blog.sciencenet.cn/u/liwei999 曾任红小兵,插队修地球,1991年去国离乡,不知行止。

博文

【泥沙龙笔记:关于“中文屋子”的人工智能之辩】 精选

已有 3367 次阅读 2016-4-5 16:58 |个人分类:立委科普|系统分类:观点评述| 人工智能, 中文屋子

重温AI历史上的思维实验:老外不会中文,正如机器没有理解 博文在沙龙引起争论,实录如下。

............

AI 历史上的 “中文房间”(Chinese room,the Chinese room argument)的思维实验是批判强人工智能的一个著名事例。这是最简单也最强有力的揭示机器本质的一个场景描述。可惜的是,这么一个简单明了的思维实验,却不被大众理解,或被很多人忽视或无视。
QUOTE: “ Searle创造了“中文房间”思想实验来反驳电脑和其他人工智能能够真正思考的观点。房间里的人不会说中文;他不能够用中文思考。但因为他拥有某些特定的工具,他甚至可以让以中文为母语的人以为他能流利的说中文。根据Searle,电脑就是这样工作的。它们无法真正的理解接收到的信息,但它们可以运行一个程序,处理信息,然后给出一个智能的印象。” (from http://baike.baidu.com/view/911657.htm

房间的人不会说中文,正如机器永远不会“理解”任何语言一样显然,机器只会做语义“计算”而已。一切的理解都是人类自己跟自己玩。争论的都是一种约定,怎样的数据结构可以让人能更加舒服地操作,以达到语义落地(到应用)的目标而已。

(from 重温AI历史上的思维实验:老外不会中文,正如机器没有理解)


Nick: @wei 我觉得中文屋并不能refute强人工智能。不应该问"屋中人是否理解中文",而应问"屋子(包括人及屋内所有工具)as a blackbox是否理解中文"。如果按行为主义: it walks like a chicken, tastes like a chicken, it must be a chicken.

白: 这涉及词语的专属性问题。把“理解”垄断成人类专属的,可以奏效一时,不能奏效一世。关键是,在这场垄断战役中,谁负有举证义务?是垄断方,还是反垄断方?

Nick: 那是不是在牛津字典里加一条"理解"的解释,强ai就成立了?

刘: 学习、理解、感觉、认知等方面,人机都不同

我:

@Nick 中文屋子 与其说是一个 argument,不如说是一个最接近真实的科普式场景描述。“理解” 本身的专属不专属已经不是要点,我们永远可以创造一个词汇(譬如:comp-stand,计算式理解)作为 “理解” 或 “智能” 的上位概念,排除其一切专属特征,作为机器无可争议的能力。

中文屋子的科普或启蒙意义在于,世界上有很多人被误导了,对于电脑和机器人的自主思考和感情,心存敬畏或恐惧。这个思维实验生动地揭示了这种敬畏或恐惧的没有理据。这是哲学家的思维实验,而恰恰也是我们 AI practitioners 的 real life 的场景再现。

我们不管把自然语言理解做到怎样的极致,怎样地以假乱真,甚至于达到超越一般民众的 “语言理解”的 能力,我们心里都明白那一切都建立在人与人自己玩的形式化体系(包括树结构,包括概念网络,知识图谱或本体知识库等等)之上。而机器只是在0与1的 “计算” 之间跳跃。但是,这个场景对于普罗大众并不了然。科幻的洗脑和小报的麻醉,使得相当多的AI门外汉,以及非电脑人士,实实在在地拜倒在AI前。面对普罗的敬畏和恐慌,我们业内人是推波助澜,还是像那个哲学家一样去揭示真实场景,我觉得是科学良心的问题。

至于场景被揭示和有效传达以后,受众对于中文屋子整体去作行为主义的图灵测试式解读,还是对屋内老外不懂中文事实的认定,那是启蒙以后的 “教义” 选择而已,这涉及信仰,可以各行其是,互相尊重。

白: 这是一个层次问题。电视节目在电视机上最终不过是像素。到底人们在看故事还是看像素。电视机也“不过”是在搬像素,和中文屋子没啥本质区别。

我: exactly,人在看故事,机器在放像素。现在的问题是,AI 及其媒体鼓噪,硬要让人相信机器 “自主地” 在放故事,而不是搬弄像素。

白: 既然在看像素的同时可以看故事,就可以在接受不懂中文的人搬弄出来的貌似理解的效果。自主是一个哲学范畴,第一线干活的人根本不用理。

我: 编故事的人就是我们这些 AI 系统开发者。这里没有机器 “自主” 出场的任何理由。

白: 领导之所以“亲自”上厕所会让人大惊小怪,是因为领导让人代劳的印象太根深蒂固了。

词语专属权如何演化,最终取决于用系统的人。比如阿法狗,下围棋的人已经把“想”的专属权扩展到它了。

做系统的人其实没什么发言权。

我: 第一线干活的人根本不用理,第一线干活的人从来都没有疑问,大家心知肚明。现在要“启蒙”的不是我们业内人士,而是被无限误导的普罗百姓,他们不理解电脑的工作原理和场景。

其实本来也无蒙可启,可叹的是这些 “蒙昧” 一多半被强加或洗脑而来,其中甚至有 AI 共同体某种“合谋”的不光彩的印记在。

白: 启蒙也是砸饭碗,何必呢。

我: 这话倒是大实话,就是太实在了,有些不落忍。于情不落忍于大众和自己的良心于理不落忍于同仁和小我。说到底,我们都是人工智能神话的受益者。

白: 不要说对用户,就算对投资人,对市场部门,甚至对员工,启蒙也是负面效果大于正面效果。

Nick: 再回到中文屋子,没人argue说老外不懂中文啊。但老外加上工具合起来懂不懂才是关键。searle在偷换概念。

白: 一样的,电视机不懂故事,电视机加上演员导演摄像化妆一众,也不懂吗?

我: @Nick 你的问题没有意义,因为 “懂不懂” 的定义没有明确界定之前,争论黑箱子还是老外懂不懂,没有任何意义。

Nick: 更简单的:一个近视的人不戴眼镜,肯定看不见,戴上眼镜就看见了。关键是测试主体是谁,戴眼镜的人还是不戴眼镜的人。这个不分清楚,道理随你讲了。很不解"中文屋子"有啥深刻的。这样被捧是哲学界弱智的标志。

我:哲学家的过人之处,就在于不被这些定义的分歧所干扰,而是直面惨淡的现实,然后揭示给受众。不得不佩服哲学和哲学家了,虽然平时我们往往都小看或漠视他们。

Nick: 你这是抒情,不是argue

我: 抒情和argue之外,还有一个小崔的 “实话实话”。

Nick: 所以中文屋子的本质是怎么定义"理解",和启蒙没啥关系

我: 就是先把场景 “描述” 清楚,然后再让人自己去选择态度和宗派。场景都不清楚,还谈什么科普。传播的结果不是骗局就是幻想。

Nick: 偷换概念,不是实话实说

我: 像现在这样,是以其昭昭,使人昏昏。

Nick: 又抒情

我: 如果是在 AI 圈内争论强弱,那是 arguments,如果是信息和知识都不对称地对于普罗大众传达所谓 “强 AI”,除了以 marketing 的需要做挡箭牌自慰(卫)以外,就有些不诚信了,哪里还谈得上 argue 不 argue。

Nick: 你的意思是我们应该异口同声地对searle说: shut the fuck  up,你丫管不着。

我: 无论如何,学界没有理由与科幻作家处在一个层次。还煞有介事的。

《计算机原理》是我们几乎每一个人的入门课,而对普罗大众却高不可攀,这就是现状。

白: 问题是,等你们定义清楚,黄花(瓜?)菜都凉了。老百姓该叫啥早叫开了,就如“电脑”,想改都难。

我: 叫啥不重要,AI 从诞生第一天起,就爱取花里胡哨的名字。实际效果是(与科幻和小报)合谋误导。当然,正如有什么样的人民,就有什么样的政府,普罗大众似乎也乐意被误导(虽然也有不乐意的),误导和科幻帮助他们张开了想象的翅膀,生活因此多了一份神秘和盼望。科学也可以作为宗教去膜拜。

Nick: 你这话应该说给你们公司销售副总。

白:问题是,什么层次上说什么层次的话,在科学界也是惯例。分子热运动,拿到宏观就是温度,可以测量的。

Nick: 对呀,戴眼镜看,就不是看了。你要非说不是看也可以,我发明一个新动词就叫(戴眼镜看),这玩意就是lambda演算啊,searle估计没学过

我: 我已经创造了一款新术语了,保证各位相安无争论:compstanding 代替 understanding

Nick: 那还是不行,我还可以往下走找你麻烦:即使是understaning,你我都是人,为啥你的understanding就是我的understanding。他人即地狱。你咋知道我understand了?那是不是还要再创造u-understand,i-understand?

冰园还不兼容呢

白: 科学网太慢了

我: 服务器越来越糟糕,以前很好的。

白: 决定词语专属权的绝大多数情况下都不是学者。学者说宇宙没有“外边”,可是老百姓“宇宙的外边是啥”照问,而且彼此可以理解。

Nick: compstand的主语是谁?searle还是屋子?

我: u-understand or i-udnerstand, they are still in the same reference frame or space.

Here is some related dialogue in my previous blog: [2]应行仁  2016-4-5 11:41说“理解”,其实人类也是如此。同一个词一句话甚至一个理论,不同的人“理解”的实际都只是自己知识结构里的东西,言者与听者的感受并非都一样。虽然在共同的文化和经历的人群中,有许多共同的复盖,但还是存有许多不同。“红花”在常人,红绿色盲的人和天生盲人的理解都不同。成语“朝三暮四”,多少人用的是它原来的含义?《周易参同契》,丹鼎派和全真派都认为是描述他们进展的景象。人们在评价其他创造物时,往往忘记了自己也能落入同样的局限,并非是驾凌它们之上的“万物之灵”。

博主回复(2016-4-5 13:14):人与人之间的理解鸿沟,与机器是否“理解”人,处在不同的平面。当我们说张三没有理解李四的时候,或张三只部分理解了李四,或张三完全理解李四,我们能得出这个结论,是基于处于同一个理解框架。如果用同一个框架,机器根本就谈不上“理解”或者“不理解”人(或人类语言)。

我: 这个框架不是图灵测试这样的表象

Nick: 所有的arguments都是冰冰圆圆。

我: u are not right.  u r not even wrong. Right and wrong must be in the same space so we can judge or argue right and wrong, but u and me are out of space, so are bing and yuan.

The understanding between human and machine and the understanding between humans are in different spaces.  They are not "a thing" no matter how similar they look to each other.






【相关】


重温AI历史上的思维实验:老外不会中文,正如机器没有理解

【新智元笔记:强弱人工智能之辩】 


【泥沙龙笔记:从机器战胜人类围棋谈开去】

NLP 历史上最大的媒体误导:成语难倒了电脑 

NLP 围脖:成语从来不是问题




【置顶:立委科学网博客NLP博文一览(定期更新版)】 






http://blog.sciencenet.cn/blog-362400-968023.html

上一篇:重温AI历史上的思维实验:老外不会中文,正如机器没有理解
下一篇:【泥沙龙笔记:NLP hard 的歧义突破】

2 郑小康 应行仁

该博文允许注册用户评论 请点击登录 评论 (10 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-12-1 00:42

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部