Master终于赢得人类对于未来的担忧

李侠

近日一名网上神秘棋手Master挑战人类围棋顶尖高手，结果Master以60：0完胜。事后，谷歌公司宣布Master就是AI机器人AlphaGO的改进型，是其深心（DeepMind）计划的一部分。短短半年时间，AlphaGO的改进型所展现出的学习能力，已经超出人类对进步速度的理解。半年前人们对于阿发狗的能力以及韩国棋手李世石的发挥存在疑问，如今，剩下的只是高手们赛后的无奈感慨。这场人机大战带来的宏观效果有三个：其一，全球性的娱乐价值；其二，所有专业棋手开始感到存在的危机；第三，引发人们对以Master为代表的人工智能的未来的好奇。

客观地说，这场人机大战的直接结果就是无情地宣告：很多曾被认为不可替代的工作，只是因为人工智能尚未涉及而已。由此，可以推断，围棋行业的萎缩已经是不可避免的，因为机器比人做得更漂亮，那么何必还要维持一个庞大的可替代机构呢？相信这点，围棋界的同仁对此会有更深的体会。按照德国社会学家马克斯•韦伯的说法，科技的最大神奇之处就在于其巨大的祛魅功能，让以往的诸多奇迹与神话在科学面前毫无余地现出原形。延伸开来，今天的很多热门行业与专业，未来都将被人工智能取代，相信这个绝非危言耸听的前景会让人们重新思考人工智能与我们自身的关系。

关于这场“人机”车轮大战引发的第二个层次的问题是：人的尊严问题。从直观上看，这次Master对高手们的血洗，让人类整体感觉很没有面子。在20年前，当深蓝战胜国际象棋世界冠军卡斯帕罗夫之后，人们就把赌注压在围棋上，认为那是机器无能为力的领域，如今，这个赌注在人工智能面前同样弱不禁风。人类曾引以为荣的诸多价值标的，在新技术面前一个个倒下，这让人类情何以堪？冷静下来，让我们思考一个问题：这次Master赢了什么？而人类又输了什么？仅就后者而言，人类输掉的不是尊严，而是无根据的骄傲与自负。何谓尊严是一个非常复杂的问题，关于它有多重解读，为此，英国哲学家迈克尔•罗森曾把尊严分解为三个部分：尊严是一种社会地位；尊严是一种恒久的内在价值，尊严是一种可以被尊重的行为，是性格或者能力的体现。暂且不论尊严概念有多么复杂，必须明确尊严所针对的对象一定是人类。在这个基础上，我们看不出，输棋后棋手的尊严有何损失？原先九段还是九段，以前拥有的道德律还在，社会地位也没有随之发生变迁。改变的只是，经此一役，那些曾经虚妄的骄傲、自负与认知模式开始发生改变，而正是这些要素曾构成人类的价值标的。历史经验无数次表明，人类的骄傲与自负大多是被夸张建构的。从这个意义上讲，破除人类内心根深蒂固的虚妄性的骄傲与自负，恰是本次比赛的重要收获之一。

此番Master获胜带来的最伟大意义在于：它让更多的人开始意识到人工智能对人类未来所具有的颠覆性作用。对于人工智能的朴素乐观与悲观态度都是不足取的。仅就笔者这几年从事心灵哲学研究的粗浅体验来看，以阿发狗为代表的人工智能会引发两个严肃问题：其一，从学理上看，机器是否有智能，需要新的判断标准。67年前提出的图林测试过于简单，已经无力去评判机器是否有智能的问题。现在的研究显示，智能包含多维度内容，远不是当下所能实现的可计算化（形式化）的一种。而在计算能力方面人类早已不是机器的对手；智能中的其他维度一旦可以部分形式化，人类自然也不是对手，未来深度学习甚至可以做到更多。如果这一天到来，人不仅仅面临被全面替代的问题，还将涉及到自身存在的意义问题。其二，时至今日，学界也没有彻底搞清楚意识到底是怎么产生的？只能笼统地说是神经系统在进化过程中产生的一种现象。谁能保证，随着硬件与软件的进一步发展，以及神经网络、算法技术的突破，机器不会突然产生意识呢？到那时，这就涉及到难以处理的复杂伦理问题。

笔者本人比较相信认知理论中的计算主义，单就计算来说，人类的计算面临三大制约：其一，速度制约，即大脑皮层的计算速度远赶不上电脑芯片的计算速度，这也就是为什么人类喜欢经验的原因，借助于经验可以减少计算量；其二，能量制约，第三，计算通道的制约，而这些人工智能都比人强。笔者也曾参与过一些相关论坛的讨论，观点呈现出一种具有普遍性的对立：科学家一方认为：人工智能离真正的应用还很远，它目前还很“傻”，其危险远不足虑；而人文学者一方则比较担忧，认为孩子总会长大，随着技术的蔓延与扩散，一旦有某一些关键技术的突破，人工智能所引发的链式反应就会出现无法控制的局面。到那时，我们千百年来所形成的用以维持社会秩序的规范（善恶、正义与价值等）都将面临崩溃的局面，那是人类无法承受的代价。对于寻常大众而言，在好奇心的引领下，则片面寄希望于一旦人工智能取得新进展，或许会给我们的生活带来改善并提升社会福祉。

这次变革与以往任何一次技术变革的性质是完全不同的，它涉及到将出现新的思考物体，而思考曾是人类所独有的能力。如何与之相处，我们并没有准备好？遗憾的是，人类在道德判断上容易出现一种对未来风险折现缩小化现象，即如果眼前的潜在利益大于未来不确定性风险的代价，人们更倾向于对遥远的风险进行打折，毕竟危险尚远，而且还不一定出现，故而会从内心纵容自己的选择。对当下收益放大，而对未来风险则进行打折，从而造成决策失误。潘多拉的盒子一旦打开，就再也关不上了。没有任何国家或者机构愿意放弃这个崭新的机会领域，鉴于，人工智能所具有的高度不确定性前景，在竞争的循环刚刚开始的时候，需要制定最低限度的规则。当下，唯一可做的就是多方代表坐下来协商，给它的发展套上缰绳。否则，我们追求来的将不再是期盼中的救星而可能是无情的掘墓人。

【博主跋】这篇小文章是前些日子应聂老师之邀而写，现发在《中国青年报》2017-1-16的思想者栏目，这是原稿，合作愉快，是为记！

2017-1-16于南方

说明：文中图片来自网络，没有任何商业目的，仅供欣赏，特此致谢！