王飞跃的个人博客分享 http://blog.sciencenet.cn/u/王飞跃

博文

[转载]奇点理论是人工智能科学理论,还是垃圾科学?

已有 4915 次阅读 2016-6-3 10:09 |系统分类:论文交流|关键词:奇点理论,,库兹韦尔,,王威廉,,人工智能| 人工智能, 库兹韦尔, 奇点理论, 王威廉 |文章来源:转载

奇点理论是人工智能科学理论,还是垃圾科学?

2015-06-16 王威廉 



【静点评】今天在中国计算机学会通讯编辑部主任韩玉琦老师的朋友圈里,看到CMU博士生王威廉的一篇有关奇点理论的力作,就立即申请授权转载。韩玉琦老师发来了第6期CCF通讯的封面大图,王威廉的文章正是这期杂志的主打。这几期《中国计算机学会通讯》颇有创新面貌,首先是李国杰院士每期写一篇《主编的话》,第5期是《人工智能到哪儿了?》,第6期则是《未来互联网向何处去?》,不仅高屋建瓴,而且一针见血。
   这篇王威廉的文章,也可以说是态度鲜明,措辞犀利。一改CCF不温不火的风格。对于库兹韦尔其人及理论,王飞跃老师曾写过一篇文章专门批判他,我也转载过。王威廉作为一个微博之星,后生可畏,站出来批判库兹韦尔和强人工智能理论,也适逢其时,正是回答“人工智能到哪儿了”的问题。
   对于库兹韦尔和奇点理论,我个人在去年还是非常推崇。但经过与计算机界和人工智能专家的长期沟通,发现他的理论体系在科学层面有所欠缺。有位曾在谷歌任职的专家,还曾对我说,其实在谷歌内部,工程师们对库兹韦尔颇有非议。尽管如此,王威廉的文章将库兹韦尔和奇点理论贬低到一钱不值,我不尽赞同。
   今天就把王威廉的这篇檄文推荐给大家,无论如何,大家可以对奇点理论以及人工智能发展的现况,能有更为客观的了解和评判。



奇点理论是关于人工智能的科学理论,还是垃圾科学?



来源:《中国计算机学会通讯》第6期《专栏》

作者: 王威廉


今年1月,一位叫蒂姆·厄本的政治学本科毕业生在其商业推广博客上发表了一篇题为《人工智能革命:通往超级智能的道路》的文章。2月,这篇文章旋即被翻译成中文,并在微信上被冠以《人工智能达到奇点——最强论证文三部曲》的题目,广为传播。文中以“未来学家”库兹韦尔的“奇点理论”为基础,植入了各种科学臆想,夹带着没有来源和真实数据支持的手绘图表,还包含了诸如“时空穿梭”、“未来预测”、“超人工智能”等骇人听闻的名词,让广大读者尤其是普通民众读后感到甚为惊讶。这篇文章的结论是:“当一个超人工智能出生的时候,对我们来说就像一个全能的上帝降临地球一般。这时候我们所关心的就是:这是否会是一个仁慈的上帝?”


看完这篇文章,很多人不禁要问,人工智能是否真的快要发展到人类只能等死的地步了呢?作为一名从事人工智能研究的业内人士,我觉得很有必要澄清几个问题:


1.“奇点理论”是不是关于人工智能的科学理论?“奇点理论”与人工智能研究到底有什么关系?

2.“未来学家”库兹韦尔是何方神圣?他推崇“奇点理论”的目的到底是什么?

3.人工智能现在发展到了什么程度?我们有必要担心吗?



什么是“技术奇点”和“奇点理论”?



所谓“技术奇点”是指在未来的某个时期,当机器达到“强人工智能”时,其智商将超过人类,从而对人类社会造成巨大的冲击。最早提出“技术奇点”的是美国科幻作家弗诺·文奇[1],他在1993年写到:“在30年内,我们将有实现超级人工智能的技术手段。在这之后,人类时代将会结束。”自称为“未来学家”的库兹韦尔在2005年的《奇点临近》一书[2]中,把“技术奇点”进一步转述为“奇点理论”:2045年将出现“奇点”时刻,人类文明走到终点,生物人将不复存在,取而代之的是一个叫做“奇点人”的新物种。换言之,库兹韦尔预测2045年人类将与机器融合,获得永生。


“奇点理论”到底是不是科学理论呢?首先,我们要了解科学理论的构成要素。美国国家科学院对科学理论的定义[3]是:在科学中,通过集成事实、定律、推断和经过实验的假设,对自然世界某种现象做出的充分解释。很明显,“奇点理论”并不符合科学理论的标准,更谈不上能对现代人工智能发展产生任何影响。


“奇点理论”既没有对该理论问题严格的数学表达,也没有严谨的证明。进一步来说,“奇点理论”没有提出任何实际的技术,没有可检验的度量标准,也没有基于数据的可重复的实验依据。所谓“技术奇点”,就是弗诺·文奇笔下的一个科幻素材,在库兹韦尔笔下摇身一变成了所谓的人工智能“奇点理论”学说,还顺带推出了“奇点大学”、“奇点人”、“奇点主义”等商业产品与概念。事实上,主流人工智能研究领域从未认可所谓“奇点理论”,也没有人从事相关的科学研究。在《奇点临近》这本书问世后的10年间,“奇点理论”没有衍生出任何有价值的具体科学技术,对人工智能技术的发展没有起到任何推动作用。


关于库兹韦尔



“奇点理论”的推崇者库兹韦尔是个什么人物呢?他是一个备受尊敬的人工智能领域的计算机科学家吗?


在库兹韦尔的主页上[4],他和比尔·盖茨的合影映入眼帘,他把自己描绘成一个“不知疲倦的天才”和一个“终极思考机器”,并称自己是语音合成等多项重大技术的发明人。事实是否如此呢?笔者检索了国际权威的人工智能组织——国际人工智能学会(AAAI)论文库,并未发现库兹韦尔或者其“奇点理论”的任何论文(如图1所示)。在德国DBLP论文库检索中,笔者发现库兹韦尔最近20年仅有的几篇文章要么是没有具体技术内容的摘要,要么是没有任何基于数据和科学实验的口水文章。也许有人会说,库兹韦尔不写科学论文,是个实践性发明人才。事实是否如此呢?库兹韦尔说他发明语音合成和语音识别这两点成立吗?


做过语音研究的人都知道,语音识别技术最早是1932年从贝尔实验室开始的(基于频谱、非连续、限定语者及词汇)。图灵奖得主雷伊·雷蒂在斯坦福大学读博期间进一步研究了连续语音识别问题。后来在美国国防部高级研究计划署(DARPA)的资助下,IBM的弗雷德·贾里尼克和卡内基梅隆大学的贝克夫妇沿着统计的方向[5],成功实现了基于隐马尔科夫模型的连续非特定人语音识别系统。语音合成最早也是由贝尔实验室研制vocoder[6]逐步发展起来的。目前常用的unit-selection语音合成技术发明人是卡内基梅隆大学的阿兰·布莱克[7],另一个主流合成技术是隐马尔可夫模型(Hidden Markov Model,HMM)语音合成,二者均与库兹韦尔没有任何关系。至于库兹韦尔自称是“深度学习、机器人技术的奇才”,实在是白日做梦,不管是学术界还是工业界,从未听说过库兹韦尔有什么贡献。此外,他是不是发明了扫描仪、光学字符阅读器(OCR)、盲人阅读器,限于篇幅,留给读者自己研究吧。


库兹韦尔为何要推广“奇点理论”呢?在《奇点临近》原书第211页上,他介绍道:“我每天要吃250片大补丸,每周注射6次营养液,这样才能活到奇点来临的那一天。”库兹韦尔顺理成章地向其“奇点理论”的“粉丝”推出了自家昂贵的长寿保健药Ray&Terry[8]。不难看出,与其说库兹韦尔是研究人工智能的计算机科学家,不如说是一名“成功的企业家”。


垃圾科学的特点



库兹韦尔没有任何科研和学术背景,他是如何当上受到媒体追捧的“人工智能专家”和“未来学家”的呢?美国哥伦比亚广播公司(CBS)早在2010年就对库兹韦尔推销垃圾科学(junk science)的方法做了详尽分析[8],指出库兹韦尔推销垃圾科学的手段主要有:


1. 抓住消费者的恐惧心理  库兹韦尔经常鼓吹要把人脑植入计算机避免死亡,超强人工智能要毁灭人类,其实就是抓住了人们害怕的心理。

2. 抓住流行文化  抓住廉价的科幻材料,抓住流行文化,让大家更加相信他的理论。库兹韦尔曾经拍电影来推广他的理论。

3. 利用社会传播而非科学论证  库兹韦尔最常用的做法就是引用其他一些所谓社会名人的论断(比如千年虫Y2K),而不用科学的手段来论证。

4. 从权威而不从事实出发  从库兹韦尔的网页我们就能看出,他的各种伪造的事迹、奖项、与名人的合影让大家相信他是权威。

5. 伪造证据  美国哥伦比亚广播公司介绍,库兹韦尔曾经在2002年引用了一份不存在的高德纳(Gartner)研究报告来佐证自己的观点。

6. 把真实的科学当做垃圾科学  库兹韦尔认为:气候变化这项大气和环境科学家多年的研究成果是一个骗局。

7. 用家庭成员来证明自己的可信度   《纽约时报》介绍,库兹韦尔曾经在一份证词上用自己的儿子证明自己可信。

8. 利用容易受骗的记者来传播消息 库兹韦尔经常欺骗类似阿什利·范斯(Ashlee Vance)这样的记者来传播他的“正面”新闻。



关于当前的人工智能研究进展



目前人工智能技术的发展是否值得人类担忧自身的安全呢?我的回答是:“完全没必要担心。”


目前可以用的人工智能应用有语音识别、图像分类、广告点击率预测、机器翻译、简单问答与对话系统等。在这些应用中,有不少实际使用的开放系统的准确率达不到期望(如亚马逊的最新智能家居助理Alexa)。在语音识别领域,对于老人、小孩或者是带有浓重地方口音的口语单词识别错误率非常高。


在机器翻译中,对西班牙语与英语的翻译已经取得了一些成果,但是将中文、阿拉伯语自动翻译成英语的结果差强人意。至于机器人的智商能否在未来10年超过人类,甚至消灭人类,我觉得图2中的情况可能会反复出现。


深度学习是机器学习的一个重要分支,主要关注用神经网络做特征的学习。目前深度学习中进展较大的也是语音识别、图像分类、文本分类等传统问题,取得的主要成果是:通过大数据,增加模型参数,降低不一致性(variance),增强机器学习模型的健壮性,从而提高任务的准确率。我们要肯定这些进步,但也要认识到,当前的深度学习技术在知识推理、逻辑、规划、机器人等人工智能核心领域还没有取得突破性的科学成果。


人工智能的学者是不是只关心技术,不关心法律、经济和社会问题呢?这个答案是否定的。每年有很多关于人工智能与社会福利的研究[9],也有很多学者在从事人工智能对隐私、法律、经济、安全和社会的研究[10~12]。最近国际人工智能学会前主席埃里克·霍维茨(Eric Horvitz)在斯坦福大学提出了人工智能100年研究计划,指出人工智能未来100年需要涉及人类的方方面面,以及如何为人类服务。


比起普通民众的担忧,不少人工智能学者的担忧往往相反:目前人工智能的应用还比较初级,根本谈不上智能。甚至很多学者认为现在的计算机连真正理解人类的语义也无法做到。引用卡内基梅隆大学计算机学院教授爱德华·霍威的话:“你们这些做研究的,机器分类的准确率再提高1%有什么用?我根本不关心。我问你‘什么是语义’,你的程序能回答吗? 我问计算机程序一个简单问题,‘小明买了一辆车’,句子里的‘买’对于计算机来说到底是什么意思,应该怎么表述?”


对于计算机科学家来说,不论是从工程上还是从科学上来讲,人工智能的研究任重而道远,切不可沾沾自喜。至于机器人能否消灭人类?我们可以引用Embodied Conversational Agents作者贾斯丁·卡塞尔教授的一句话:“不用怕,等20分钟他们(机器人)就没电了。”


图:



作者:

王威廉

美国卡内基梅隆大学博士生。主要研究方向为人工智能中的机器学习、自然语言处理和语音处理。


参考文献

[1]  Vinge, Vernor. The Coming Technological Singularity: How to Survive in the Post-Human Era, originally in Vision-21: Interdisciplinary Science and Engineering in the Era of
Cyberspace, G. A. Landis, ed., NASA Publication CP-10129, 1993:11~22.

[2]  Kurzweil, Ray. The singularity is near: When humans transcend biology. Penguin, 2005.

[3]  National Academy of Sciences (US). Committee on Science, and Creationism. Science and creationism: A view from the National Academy of Sciences. National Academies, 1999.

[4]  Ray Kurzweil biography, Kurzweil AI Network, http://www.kurzweilai.net/ray-kurzweil-biography.

[5]  Frederick Jelinek. Statistical methods for speech recognition. MIT press, 1997.

[6]  http://en.wikipedia.org/wiki/Vocoder.

[7]  Hunt, Andrew J., and Alan W. Black. Unit selection in a concatenative speech synthesis system using a large speech database. ICASSP 1996.

[8]  James, Geoffrey, How Ray Kurzweil Sells His Junk Science, CBS Interactive, 2010.

[9]  Catlett, Charlie, and Rayid Ghani. Big Data for Social Good. Big Data 3.1 (2015): 1~2.

[10]  Singla, Adish, et al. Stochastic Privacy. AAAI 2014.

[11]  Wang, William Yang, et al. Historical analysis of legal opinions with a sparse mixed-effects latent variable model. ACL 2012.

[12]  Hong, Jason. The state of phishing attacks. Communications of the ACM 55.1 (2012): 74~81.


本文发表于2015年6月第11卷第6期《中国计算机学会通讯》杂志,后经“新智元”转载,经“新智元”授权后,转载于博客,仅记。

2015-06-16 王威廉 2015-06-16 王威廉 2015-06-16 王威廉 2015-06-16 王威廉



http://blog.sciencenet.cn/blog-2374-982150.html

上一篇:[转载]雷•库兹韦尔油头滑脑的未来主义
下一篇:好雨知时节-科技“三会”杂记

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备14006957 )

GMT+8, 2018-10-23 05:51

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部