互联网进化论-刘锋分享 http://blog.sciencenet.cn/u/liufeng

博文

写在经济学人批判之后,未来简史,因误解人工智能导致错误结论 精选

已有 10772 次阅读 2017-2-21 12:39 |系统分类:观点评述

2017年,瓦尔•赫拉利以一部《人类简史》,收获了全球范围内的声名和争议。在这本书中,赫拉利提出了颠覆性的观点——人类之所以能够崛起统治地球,是因为其拥有强大的虚构能力,人类现存的一切,如国家、宗教、企业等都是虚构出来的现实,是一种基于想象的共同体。而在新作《未来简史》中,他尝试揭示一个“算法世界”和一个从“人”到“神”的未来。


《未来简史》中的未来是怎样的


书中,瓦尔•赫拉利提出了一系列颠覆性的观点:


一、人类将进化成新物种——随着以大数据、人工智能为代表的科学技术发展的日益成熟,绝大部分人将沦为“无价值的群体”,只有少部分人能进化成特质发生改变的 “神人”。


二、人作为个体的价值将不复存在——我们这个时代的宗教是人文主义信仰,它基于个人是独立实体和自由意志的假设,而生命科学正在瓦解这些。


三、将近99%的人类工作都是毫无价值的——人工智能和算法对人的作用与价值形成了极大的挑战。社会愈发达,人的分工愈专业,也就越容易被机器取代。大部分人在经济生活中不会再有价值。


四、算法将统治21世纪——从数据主义的观点来看,全人类可能就是一个数据处理系统,而每个人只是里面的一个芯片。一旦这个系统找到了更高效的计算方式,人类很有可能被抛弃。


在赫拉利的构想中,人类会逐渐把工作和决策交给机器和算法来完成。这样一来,被技术发展抛开的“无用的大众” 将无所事事,而生物技术的发展可以使得人获得永久的幸福感,因为人的幸福感是由生化机制控制的。而少数超级富豪还能享受到这些新技术的最大成果,即利用科技的发展完成进化、编辑自己的基因,最终与机器融为一体,成为永生和进化的“神人”。


《未来简史》一经上市就登上以色列畅销书排行榜第一名,100周蝉联榜单首位,引发30个国家争相购买版权,并入选比尔盖茨、扎克伯格等诸多意见领袖的年度书单。在中文世界,销量已破百万,至今还在畅销榜的前端。


评价褒贬不一


瓦尔•赫拉利认为人类祖先智人之所以能够崛起统治地球,是因为其拥有强大的虚构能力,人类现存的一切——国家、宗教、企业等都是虚构出来的现实,是一种基于想象的共同体。正因为有了这样的共同认知,人类才能够有效协作,形成更大规模的全球性连接,才有了地球主宰的地位和今日物质的进步。而关于本书的评价,则是毁誉参半,褒贬不一。


诺贝尔经济学奖得主丹尼尔•卡尼曼评价说:“《未来简史》是一部能够震撼人心,同时又趣味盎然的作品。而最重要的是,这本书会颠覆你的思考方式。”


2016年9月20日《经济学人》杂志发表评论,指出《未来简史》是“一部肤浅、华而不实的作品”,充斥着浅尝辄止和令人失望的泛化处理技巧。“赫拉利倾向于用科学来标榜自己,用了一些例如生物技术、纳米技术和人工智能的词汇,但他没有严肃地对这些话题进行展开。相反,他像是在做一场 TED 演讲般,一笔带过。他的论断相当模糊,正如飞转的轮胎钢圈一样,永远看不清真实的辐条在哪,给人留下的只有幻象。”


对于《未来简史》所提出的两个观点:生命就是算法和生命的进化由算法驱动,但从人工智能和计算机科学领域看,算法是人类量化世界的过程中创造和使用的规则。《未来简史》作者因为非程序员出身,在猜想的情况下,把算法提升为整个自然界的自然规律并成为该书的理论基础,看不见或者故意忽视算法背后程序员产品经理或科学家的存在,才导致了《未来简史》黑暗未来的结论产生,其本质怡依然是当前人工智能威胁论的变种。


在人工智能的经典教科书中,提到这个世界并不是所有的事物和现象都能被数学所描述的。正是人类在穷尽智慧,试图用数学和算法在描述这个世界。作为未来简史的作者,直接就把这个努力外化成自然界的自然规律,忽视了人类的能动性。不可靠或错误的观点由此产生。


来自腾讯研究院的一篇文章则认为《未来简史》所宣称的未来世界太过黑暗:一方面,作为算法,机器比你聪明还比你勤奋,所以必将替代人类;另一方面,人类被扔进了历史的垃圾桶,只能戴着个VR眼镜,成天吸食精神鸦片;即使唯一幸存的那2%的人得以有机会进化成超级物种:半人半神的怪物——神人。并且基本上超级物种神人也是机器的傀儡。


文章认为尤瓦尔.赫拉利的观点过于骇人听闻了,甚至有哗众取宠之嫌。一方面,赫拉利只有将全人类的命运贬低到令人窒息的程度才能够迎合美国民众——特别是庞大的中产阶级——的需要;另一方面,毕竟赫拉利只是一个文科生,一个伟大的历史学家,而不是一个一流的科学家。这就导致了他在分析数据教以及神人的时候显得捉襟见肘。


文章认为未来世界更可能将会是人机共生的世界,人离不开机器,机器也同样离不开人。为什么机器离不开人类呢?这是因为人类的自我意识会创造出一种独属于人类的意义之网,机器要成就真正的伟大,就必须进入人类编织的这个意义之网之中。机器可能产生它自己的意义之网,但是即使这样的机器意义之网出现了,它仍然与我们人类无关。这就像是在说,其实我们整个银河系就是一个超级生物体,星球就是它的细胞,我们的一切活动都不过在帮助银河系的进化,只不过我们无法理解银河系的意义,这个道理是类似的。其实,我们用我们的意识,我们的语言对外在世界进行任何的定义与描述的时候就已经暗含了一个前提,这就是用我们的意义之网来去做出判断,我们无法完全跳出人类语言和意识的范畴来讨论抽象的机器的意义之网,这就像一个人无法拔着自己的头发脱离地球吸引力一样。


因误解人工智能所产生的谬误

关于人工智能威胁论,代表性观点为谷歌技术总监雷·《奇点临近》作者库兹韦尔(Ray Kurzweil)预言人工智能将超过人类智慧。他在书中写道”由于技术发展呈现指数式的增长,机器能模拟大脑的新皮质。到2029年,机器将达到人类的智能水平;到2045年,人与机器将深度融合,那将标志着奇点时刻的到来[4]。”


除此以外,支持人工智能威胁论的代表人物包括著名的物理学家霍金,微软创始人比尔盖茨,特斯拉CEO马斯克等。在人工智能威胁论热度日益高涨的情况下,人工智能领域科学家对人工智能威胁论也提出了反驳意见。


Facebook人工智能实验室主任,NYU计算机科学教授Yann LeCun 2014年4月在接受IEEE 《Spectrum》采访时发表了对人工智能威胁论的看法,他认为人工智能研究者在之前很长的一段时间都低估了制造智能机器的难度。人工智能的每一个新浪潮,都会带来这么一段从盲目乐观到不理智最后到沮丧的阶段。


Yann LeCun 提出了与威胁论支持者不同的人工智能未来发展路径,他提到大部分人觉得人工智能的进展是个指数曲线,其实它是个S型曲线,S型曲线刚开始的时候跟指数曲线很像,而且奇点理论比指数曲线还夸张,它假设的是渐进曲线。线性、多项式、指数和渐进以及S曲线的动态演变,都跟阻尼和摩擦因子有关系。而未来学家却假设这些因子是不存在的。未来学家生来就愿意做出盲目的预测,尤其是他们特别渴望这个预测成真的时候,可能是为了实现个人抱负[7]。


除了Facebook人工智能实验室主任Yann LeCun,百度首席科学家,斯坦福大学计算机科学系和电子工程系副教授吴恩达,中国科学院自动化所教授,人工智能领域专家王飞跃等也在不同场合对人工智能威胁论提出了反对意见。


从科技的发展史看,每一次技术革命带来的科技成果都会引发阵痛,譬如大工业时代的机器让很多手工业主失业,电视的诞生让广播从业者受到影响。人工智能的发展无疑对很多从事重复性劳动的工种产生影响。例如工厂的工人,汽车司机, 甚至包括从事教育的部分老师,但我们往往忘记,人类最强的智慧能力不是记忆和计算,而是创新,创造和发现规律。


人类把枯燥的记忆和计算扔给互联网和人工智能,集中精力在发现更多大自然的规律,创造更多改造世界的工具,观察来自各方面的威胁,提出解决方案保证人类安全,人工智能其实是在解放人类核心优势,帮助人类向更高方向进化的助手。


产生人工智能威胁论的原因很多,大概有一下几点原因:


1、对人工智能的技术和原理不够清晰,做误解延伸,产生恐慌,例如人工智能智力水平在单调递增,但也许是指数曲线,也许是无限逼近某一水平线,人工智能威胁论者容易选择指数递增,于是得出结论认为在某个时间点将超越人类智慧,但人工智能科学家往往认同人工智能智慧无限逼近人类智慧,如下图所示:

写在经济学人批判之后,未来简史,因误解人工智能导致错误结论

2、对人类的种种丑恶现象不满,丧失对人类未来的希望,希望人类灭绝,他们对所有能够灭绝人类的理论或预测都会感兴趣并进行传播,例如三体中描绘的降临派等。


3、通过对人工智能威胁人类生存的炒作,获得名望或利益甚至是快感, Facebook人工智能实验室主任 Yann LeCun,卡内基梅隆大学计算机学院教授王威廉最近都对这种现象进行了严厉的批评。


4、还有一个深成次原因,达尔文进化论认为进化无目标,无方向,因此人类存在和进化的意义不明,导致人工智能对人类进化的意义也就容易出现分歧。


新技术恐惧将伴随人类进化到终点

写在经济学人批判之后,未来简史,因误解人工智能导致错误结论

历史上,我们一路在恐惧中走来,恐惧过日食,月食.新技术革命后,我们的恐惧更为频繁,害怕过机器,恐惧过机器控制人类,害怕过火车,认为会破坏龙脉,害怕过电视,担心永远沉迷于节目中,害怕过千年虫,会导致社会大混乱.现在开始恐惧人工智能。担心人类变为奴隶,甚至木偶,这恐惧依然是历史上种种恐惧的延续。


人类真正无法抗衡的还是来自大自然的威胁,例如2012电影中表现的大地震,太阳的不知名原因暴涨,巨型行星突然袭击,人类能做的只能加快进化,用科技抗衡。人类发展的科技像双节棍一样是工具,用的好,可以健身防敌,用不好才会自残伤身。至于说这双节棍或者人工智能控制人类,威胁人类,依然是千年来人类恐惧的沿承。


法国哲学家德日进认为“上帝是人类进化的终点”,也许人类会在这恐惧中继续前行下去,而科技是帮助我们进化到安全终点的唯一武器。


作者:刘锋 李碧云



https://blog.sciencenet.cn/blog-39263-1035045.html

上一篇:互联网神经学2016-2017研究报告,七个值得研究的颠覆性创新领域
下一篇:从互联网进化的角度看AI+时代的巨头竞争
收藏 IP: 61.50.105.*| 热度|

19 武夷山 鲍海飞 张涛 高柳村 侯沉 强涛 刘钢 李曙 钟振余 崔小云 史仍飞 张骥 吉宗祥 罗春元 王春艳 twhaotw ericmapes xlsd yangb919

该博文允许注册用户评论 请点击登录 评论 (19 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-5-12 18:43

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部