博文

与师生谈人工智能6：能而欠智

已有 4456 次阅读 2021-8-8 10:54 |系统分类:教学心得

学：学生，教：教师，李：李晓榕

李：大家眼中的智能更近于“通能”而非“专能”；不仅“能”（胜任某事），更在于“智”——随机应变，行事巧妙，领悟微妙，善解深意，将心比心，擅长对付罕见奇特、复杂矛盾、突发多变、难以描述、答案不清、好坏莫辨等情况，兼具众多方面的才能，有自由意志和主观能动性，等等，比如在完全陌生或迷茫多变的场景中妥善行事，巧妙地完成难以定义或描述、没有对错、需要综合考虑多方因素的各种复杂任务，在信息奇缺或严重矛盾的情况下解决难题，与自然和社会环境密切交互，擅长获取、把握、创造各种抽象概念，善于做“元思考”（即反思思维本身），深刻理解事物的长期影响和广泛意义，充分考虑特殊场景中各方的主观感受、精神状态和道德诉求，很好地平衡各种彼此矛盾的需求，等等。可见，智能强调在纷繁复杂的广泛环境中兼顾多方考量、实现各种目标、含有诸多心智方面的“通能”和见机行事、因势利导、因时因地因事因人制宜等“灵活、灵动、灵巧”之“灵性”以及与环境密切交互的“活泛、活跃”之“活素”“活质”。

不智欠能，能而欠智，既能又智？

我认为，深度学习所代表的人工智能“能而欠智”，正像能自动寻找并击中目标的“寻的”导弹并没有真正的智能一样，也像经过题海战术训练之人并不明显更聪明一样，他只是更会求解相应题型之题而已。

学：说人工智能产品“能而不智”，是一种“傻能”，真是一针见血，不过这是不是太负面了？

教：看来李老师对人工智能的研究是全盘否定的。

李：你们误解了我的意思。让我首先肯定，对于一项任务，完成得好坏较易判定因而能用大数据训练时，深度学习确实是一大技术突破，它使人工智能的实际应用真正落地，这是人工智能研究的重大成就，有望成为划时代的里程碑。我说它“能而欠智”，你们以为这是贬词，其实是很高的赞誉：说它“能”。人工智能发展的三大阶段：①基于逻辑的推理规则，②基于知识的专家系统，③基于信息的数据培训，都各有所偏。当前阶段（即机器学习）的精髓是统计数据培训。前两阶段人工智能的发展一直明显低于期望，整体属于“不智欠能”，充其量只有小“专技”，只是“有技欠能不智”，只能勉强对付一些环境严格受控的玩具型、游戏式的小规模简单任务。得力于大数据和硬件发展的“神助”，深度学习所代表的第三代已经显示出能胜任许多实际而并不简单任务的“专能”。可见，从“不智欠能”到“能而欠智”是一大进步。下一步就是争取“既能又智”，从“专能”到既“通”且“灵”的“智”。

学：“专技”和“专能”有什么区别？

李：“能”指能力、能耐、本事、本领、才能等；“技”是技巧、技法、技术等，往往比“能”更专门狭窄、通用性更差、更易靠培训得到；“智”是智力、智能、智慧之“智”，是三者中最上乘、最难靠后天努力提高的。古人类学的“智人”（Homo sapien）也比“能人”（Homo habilis）进化程度更高。英文intelligence被译为“智能”（大陆）和“智慧”（台湾）。与此相应，intelligence和“智能”重心都在“智”而非“能”，更近于（心智上）上乘的智力智慧，而不仅是未必高级的能力本领。这也符合汉语构词法“先尊后卑，先主后次”的原则习惯（例如：尺寸、大小、纲目、国家、名字、上下、岁月、姓名、长幼、主从）。按此原则，我觉得现有和近期会有的artificial intelligence (AI) 充其量属于“人工能智”，是弱AI，而强AI才堪称“人工智能”。相对而言，“智”更是“聪明”，更重心智，其反面是愚、是蠢；“能”更近于“能干”，更重实践，其反面是无能、没用、笨拙。完全可能“能而不智”，而“智而不能”则难以成立。

程式、方法、能力、智慧分别属于不同的层面。层次的高低，对应着隐显的深浅、学习的难易、适应的宽窄和灵活的强弱。一个好公式、程式、程序（比如二次方程求根公式）能解决多个不同的问题，但难以解决不同类型的问题。一种好方法（比如待定系数法）能根据不同问题的特性，得出不同的程式，解决大量不同类型的问题。程式按部就班（无需动脑变通）的本质很突出，而方法虽有统一的指导方针，但比程式更重变通，更灵活适应。方法大都仍然属于“技”而非“能”。程式有明确无误的精准表述；方法尽管只有启发式的描述，但可以被人学会而完全掌握；能力无法自外“学”会，但有望“习”得，逐渐提升，这主要靠反复实践、特别是有针对性的强化练习。能力有赖于善于学会各种方法，一个能人能胜任类型颇为不同的任务。相对而言，智慧最依赖于天赋，最难习得，强化练习更无济于事，它更依赖于对事物本性的洞察。智者必定善于审时度势，因势利导，充分运用众多方面的能力。可以说：智能的起点是能力，顶点是智慧，智能的全体是一个连续谱，它涵盖从专能到智慧的全范围。通常说的“智能”，其水平介于智慧和能力之间，高于专能，但未达到堪称智慧的高度。因此，说某人“愚、蠢、笨”，就是说他没有足够的智能，低于常人的水平。

不该冲动过热

人工智能研究已年逾花甲，大量实际应用终于来临，当然令人振奋。不过，不该因而忘乎所以，对近期未来期待过高，过于乐观地以为“既能又智”的阶段即将来临。要记住前车之鉴：①紧接着过去两波人工智能热的是寒冬；②在1980年代人工智能热时，日本搞“第五代”超级智能计算机计划，聚焦于人工智能，要在1990年代实现大面积模仿人类言行，完全具有人类推理能力，甚至预测人类所想。它野心过度膨胀，失败后导致日本在信息产业和人工智能领域自此全面落后。要清醒地认识到：当前的人工智能大潮，并非基于智能机理认识上的重大突破，而只是找到了一种较能利用大数据和计算机特长的强大方法——大数据深度学习，它未必能撬开创造真“智”之门。人们心目中的真智大都离不开理解、意向性、意志、情感、自我意识以及精神等方面的经历体验，否则“能则能矣，非智也”。缺乏理解，还有智能？没有意向，能力再强，何智之有？感受情感情绪之“情”是体现和判定事物真正价值的基础，真智到底能否离开它们和价值判断？这些方面的研究迄今并无突破，也无近期内会有重大突破的先兆。而且，依赖大数据培训的深度学习网络的可释性和可视化都较差，对加深理解、提高认识、改善知识的结构和表达帮助有限。比如，著名人工智能学者Pedro Domingos在社交网上说：自2018年5月25日起，欧盟要求所有算法解释其输出原理，这意味着深度学习成为非法。

人工智能不必模仿人脑机制或人类智能，但是没有对智能本质机理认识上的突破，期待近期内有质的飞跃是不是太盲目乐观？因而当前的人工智能大潮，还是会像前两个热潮一样难乎为继，特别是当人们对它的期望太高之后。过度期望、夸大承诺不乏先例。老子云：“飘风不终朝，骤雨不终日。”风暴越强，越难持续；期望越高，越难实现，失望越大。还是让我们了解一下人工智能的上一次热潮是如何崩溃而进入“寒冬”的吧¹：1980年代早期，“人工智能热”声称会思考的机器将在10年内出现，吸引了大公司对此注资数十亿美元，很多LISP公司涌上了人工智能大潮。结果诺言难以兑现时，人工智能大潮崩溃了，……我们称之为人工智能的冬天。卷积神经网络被誉为“机器之眼”，其开创者、深度学习的领军人物杨立坤（Yann LeCun，又译为“燕乐存”）警告说：“我最不喜欢听的说法就是‘它的表现简直和人脑一样’，因为尽管深度学习得到了生物学的启发，但它的工作原理和真正的生物大脑有天壤之别。说它像人脑，等于是凭空给它加了一道光环，这是很危险的。这样做会引发炒作，这些人嘴里说的东西并不是真的。人工智能的发展曾多次陷入寒冬，就是因为人们造不出他们吹嘘的东西来。”上一波人工智能热主要源于专家系统这一方法，其代表事件是IBM的“深蓝”战胜国际象棋大师。当前的人工智能大潮主要靠的是大数据深度学习这一方法，其代表事件是谷歌的“阿尔法狗”战胜国际围棋大师。都只是方法上的突破，凭什么一厢情愿地盲目相信会在近期内有质的飞跃？

还是让我们了解一下上一波人工神经网络热是如何消退的吧：“基于神经网络和其他人工智能技术的创业公司开始寻求投资，其做法野心勃勃但不切实际。当AI研究不能实现这些不合理的期望时，投资者感到失望。同时，机器学习的其他领域取得了进步。比如，核方法和图模型都在很多重要任务上实现了很好的效果。这两个因素导致了神经网络热潮的第二次衰退。”（Goodfellow, Bengio, and Courville《深度学习》）科技史上这样的热潮来了去、去了来。人工智能已有三代，每一代都掀起一个热潮，整体上迄今已“三起两落”。一方面，作为每一种强大技术的研创者、推动者，或者出于理想乐观的美好愿望，或者出于吸引眼球、便于融资或谋取利益等现实考虑，差不多没有理由不美化自己的宠儿、描绘一厢情愿的愿景。而且，媒体和网络历来追求轰动效应，难免哗众取宠。所以，面对大潮，都应慎重考虑历史上诸如此类一而再、再而三地产生“泡沫”的因素和作用。

话虽如此，展望未来千百年，真正堪与人类智能比肩、最终超越人类智能的超级智能是可以期待的。不过，我认为其载体应该是“生物机器”，即（人工改造后的）生物与完全人造物（机器、芯片、纳米等技术以及未来科技）的有机结合。这才是创造超级智能之路，应该充分利用而不能完全撇开几十亿年生命进化的成果。因此，人工智能研究的长远价值巨大，值得长期投入。不过我要强调，必须先期或同步提升相应的道德修为，使之既智慧卓绝又道德高尚，所以要谨慎行事，小步前行，否则人工智能将是人类的掘墓人。

学：这么说，李老师是相信强人工智能的。

李：不对，我说的是生物与机器的结合，并非纯计算机或机器，所以不是强人工智能。

______________________________

1. Duane Rettig, AI Winter: The Lisp companies rode the great AI wave in the early 80's, when large corporations poured billions of dollars into the AI hype that promised thinking machines in 10 years. When the promises turned out to be harder than originally thought, the AI wave crashed, ... We refer to it as the AI Winter. (引自http://c2.com/cgi/wiki?AiWinter）

正在出的博文系列：

与师生谈人工智能：

1.智乎哉？ 2. 奢求精确之误 3.精确定义之病 4.图灵测试 5.强人工智能

6. 能而欠智

与师生谈现代化之弊

1：崛起的代价 2：发展必好无疑？ 3：发展的恶果 4：科技进步果真进步？ 5：科技的罪责

6：开发进步善哉恶哉？7：现代化恶果之因 8：现代化恶果之因2 9：资本主义与个人主义 10：资本主义的修正与回潮

11：全球化的好歹 12：全球化的好歹 13：西化、现代化、全球化 14：现代化的本质 15：文化全球化？

16：妈的奶贼腥 17：多元优越 18：四大主义 19：“化私为公”的隐形手 20：进步的魔咒

21：进步的陷阱 22：进步的后果 23.成功的反噬 24：进步的残酷 25: 进步到恶神末日

26：自造成恶神

与师生漫谈科研文化