博文
重温AI历史上的思维实验：老外不会中文，正如机器没有理解
精选
|||
说到“机器理解”，今天还在想，这个词误导了多少人。
小报记者、科幻作家、普罗群氓就不提了，甚至“高知”里面也倒下了一大片。
有一个小测试可以作为误导还是没被误导，误导到多大程度的指针：凡是觉得成语是机器理解语言难点的人，都不免有点脑残，太把电脑当回事儿。更进一步，凡是认为进入了词典强盗绑架还存在语义问题的，也都不及格。(参见博文：NLP 历史上最大的媒体误导：成语难倒了电脑； NLP 围脖：成语从来不是问题）。
这个词典绑架的悟性是一个人有没有被人工智能和自然语言理解所误导的试金石。
这是语义计算（机器“理解”）和人脑理解的本质区分，分不清这一点的，高知（博士、教授、学者等）里面似乎也不少。我的博文后面有这么个评论：2015-7-4 09:57成语的理解，关键不在字面吧？一般来讲，成语背后是一个有角色，有事件的故事。而往往会把上下文中的人或者物，套用到成语故事的角色中去，以表达一种隐含的关系。发这个评论的，就是属于被误导一族，不是装的糊涂。
成语里面无论有多少个故事，隐含的意义，不同的理解，这统统不在语义计算（所谓机器 “理解”）的范畴内。这些都是语义表达（semantic representation）的问题，与机器理解没有一毛钱的关系。
语义表达不过是一种人对 “语义” 或 “思想” 或 “故事” 给定的某种约定符号的编码而已。是人类自己跟自己玩，是同行跟同行玩，没有机器什么事儿。都进入词典了，都进入记忆了，还怀疑机器能不能理解，可见人工“智能” 和 自然语言“理解”的误导有多深。
AI 历史上的 “中文房间”（Chinese room，the Chinese room argument）的思维实验是批判强人工智能的一个著名事例。这是最简单也最强有力的揭示机器本质的一个场景描述。可惜的是，这么一个简单明了的思维实验，却不被大众理解，或被很多人忽视或无视。
QUOTE： “ Searle创造了“中文房间”思想实验来反驳电脑和其他人工智能能够真正思考的观点。房间里的人不会说中文；他不能够用中文思考。但因为他拥有某些特定的工具，他甚至可以让以中文为母语的人以为他能流利的说中文。根据Searle，电脑就是这样工作的。它们无法真正的理解接收到的信息，但它们可以运行一个程序，处理信息，然后给出一个智能的印象。” （from http://baike.baidu.com/view/911657.htm）
房间的人不会说中文，正如机器永远不会“理解”任何语言一样显然，机器只会做语义“计算”而已。一切的理解都是人类自己跟自己玩。争论的都是一种约定，怎样的数据结构可以让人能更加舒服地操作，以达到语义落地（到应用）的目标而已。
如果硬要说“机器理解”，机器理解的就是0和1的不同组合，所谓机器指令。01开关以上的一切引申，不管经过多少层，都是人类自己在玩自己，不赖机器。
进入词典的东西没有表现出 “理解” 的样子，那是因为人自己还没搞清楚怎样表达合适，而不是语义本身的 “理解” 问题。理解是本质，表达只是形式。记忆是强盗，词典就是绑架，如何绑架是人的问题，标准就是约定。人工智能（Artificial Intelligencr）没有也无需 “智能”，自然语言理解（Natural Language Understanding）也没有“理解”，一切的智能和理解都是比喻。
机器理解如此，机器具有人类情感就更不在话下了。什么电脑自主思考、获得人类的情感，以及统治人类等人工智能的科幻神话，只有茶余饭后博取一笑的价值。
【相关】
、
https://blog.sciencenet.cn/blog-362400-967894.html
上一篇：【deep parsing：植树为林自成景（20/n）】
下一篇：【泥沙龙笔记：关于“中文屋子”的人工智能之辩】
