|
学:学生,教:教师,李:李晓榕
学:您说的这些很有启发性,但它们与深度学习有多大关系,是什么关系呢?
李:它们的关系相当深刻而密切。比如,深度学习和强化学习等数据驱动的机器学习方法,都植根于人工神经网络这样的通用框架和结构组织,它们从数据中学习,而不依赖于首先还原到一些基本原理或简单结构。它们只顾外部行为,不顾内部机制,是行为主义的,是非还原论的,而不像老牌AI那样是还原论的。从这一方面来说,它们超越老牌AI的大获成功,可以算是非还原论的一次胜利。不过,行为主义也大有局限性,这有前车之鉴:行为主义在心理学这座皇宫中独领风骚、大红大紫了半个世纪后,近几十年来逐渐失宠,进了冷宫。行为主义在智能学中也未必能避免这样的命运。作为行为主义和联结主义的产物,深度学习和强化学习强调智能中非陈述性的方面,与老牌AI相比,各有所偏。而且,数据驱动的这类机器学习方法完全依赖于数据,而它们所用的数据都是靠还原论工程和技术产品采集和加工的,都不是现实世界的原始自然数据。这样的数据都是还原论的产物,都难逃被(过度)简化的命运。基于它们来解决现实世界复杂问题的能力,也都因这些人工数据的局限而受限。此外,深度学习至少迄今为止,与递归没多大关系,所以不能利用递归的强大威力。不过,强化学习可以跟递归扯上关系。
学:照您所说的所有这些,深度学习的缺陷和局限性其实很大很明显,那它为什么现在还这么火呢?
李:深度学习的上述缺陷和局限性是我的思考结果,并非尽人皆知,我说的也肯定不全对。我想再次强调:与前辈AI的“不智欠能”或小“专技”相比,深度学习在实用上是一大突破、一大进步,到了“能而欠智”,无愧为第三代人工智能的代表。这突然发生,当然令人振奋,以致于头脑发热,把它想得太神乎其神。大潮来势汹涌时,优势和威力总被彰显夸大粉饰,短板和不足被忽视隐瞒。在一个热潮的上升期,只有成功之例才能发表,广泛传播,不成功的尝试及其研究结果难以发表和传播。所以,浮现出来的“冰山一角”都是清一色的成功。要了解负面意见,往往只能来自非正式的途径。再过一些年,对大数据深度学习利弊的认识,才会逐渐深化清晰,广为人知。所以,至少在开始阶段,退潮大都靠大家私下得知的失望尝试。不过,在网络发达的今天,情况会有所不同。
此外,一种新方法要能大火特火,得有两大要素:通用和易用,即不很费神费事就能到处用,因为“小劳而大获”很吸引人。比较通用而又易用的东西,主体架构大都比较普适,并有可调部分。热潮中跟进的研究,大多是在此架构上调节可调部分,应用于具体研究对象。深度学习有此二要素,只是在“易用”上不尽如意:要想真正有效,它往往得先“喂进”(带标定的)大数据来强化训练,并需要相应的调参。而这绝非轻而易举,往往要有人先这么做好了,你才能往下做。所以,大数据深度学习真正的原创研究不会很多,大量研究是跟进的研究,短时内人们恐怕难以得知多少人的失望尝试。除了大数据深度学习本身的长处之外,这是这个热潮有望持续一些年头的一大原因。
不论根源如何,研究证实了人们的常识:具体、整体性、复杂性、关系型思维、强调理解和亲和更具女性特色;男性思维更擅长抽象,更注重分析,更强调简单性,更具还原论特征。所以,相对而言,可以说以整体论为主的古代科学更具女性味,而以还原论为一统天下的近现代科学更具男性味。还原论是对古代科学以及整体论的否定,可以类比于父系社会对母系社会的取代。要想超越现代科学,必须突破还原论,按黑格尔的“正—反—合”模式,只能是融整体论和还原论为一体、男性女性更加平衡的未来科学,而不仅是只重视复杂性整体性、反还原论、更具女性味的“复杂性科学”。
其实,复杂与否,大有相对性,在很大程度上只是相对于观点、工具等方面而言的。对于还原论而言复杂的,从其他观点来看、用其他工具来做,未必复杂。例如,整形几何、规则几何是由简单规则的图形构成的,它充分体现了还原论思想。对于整形几何来说,一棵树的树枝、中国的海岸线等形状都极其复杂。但是,从分形几何角度来看,它们并不复杂,只不过其中有大量自相似嵌套(递归)。用分形几何这个递归工具,比较简单地就能很好地刻画描述它们。混沌现象也一样:它对还原论而言极其复杂无序,却是简单运作的不断迭代,所以是简单递归。所以,像钱学森这样的反还原论者,称还原论无法胜任的问题研究为“复杂性科学”,即:复杂性科学 = 非还原型问题的科学。这说到底还是隐性地以还原论为标杆,这既不该是他们所希望的,又或多或少有误导性——使人误以为无法还原的就必定极其复杂而不可能有其他(非还原的)简单的优秀解法。
生命的一大关键特性是能自我再生,例如靠细胞分裂等手段产生与母体本质相同的子代。按大数学家、计算机之父、元胞自动机理论的创始人冯·诺依曼的论证,自我再生性并不神奇,生命的起源无需超自然的神秘力量,一个足够复杂的系统甚至能自行造出比自身更复杂的系统。在此意义上,简单与复杂的一个分水岭是复杂程度刚好达到仅仅能自我再生的系统:它的逐代演化刚好能保持而不增减后代的复杂度;比它更简单的系统无法自行再造自身或同等复杂度的后代,不妨称之为“简单”系统;比它更复杂的系统甚至能自行创造比自身更复杂的系统,不妨称之为复杂系统。因此,是否可以认为,还原论或许只擅长对付这样的简单系统,而难以对付这样的复杂系统和自我再生系统?注意,自我再生是一种典型的递归。在此意义上,递归性正好是(还原论的)简单与复杂的分界线。
反还原论者强调复杂性科学,其工作迄今大多是在哲学层面上的,往往强调整体性和系统论,所述常常给人泛泛而谈、空疏无度之感,含糊而缺乏比较具体可行的指导方针和方法。还原容易与精确结成联盟,同样,整体也容易与模糊结成联盟。我认为,融合整体论和还原论为一体的一大有效可行的方向是递归论。我在此所说的递归论是与还原论(还原主义)、整体论(整体主义)具有相似地位的一种主义,即递归主义,它并不限于逻辑学中的递归论、数学上的递归函数论、计算机科学中的可计算函数或算法等具体的递归算论。这些递归理论可以说是递归主义的部分理论基础。
还原论的精髓是“分”,直至分到基质,递归论的精髓是“环”,不断自我迭代。环不可分,基质也未必形成环。所以还原和递归有很强的互补性:不能还原的,可能是递归;无法递归的,可能可还原。相对而言,还原论更“静”,更重视平衡、稳态,递归论更“动”,更重视生成、演化。对于“杂、联、开、变”等复杂性,还原论更适于“杂”,递归论更适于其他类中因圈环往复而导致的复杂性,特别是“联、开”型复杂性。
整体论和还原论分别强调整体性和还原性(可分性),而整体性与还原性有太强的对立性:整体性不可还原,可还原的绝非整体性。还原论者反对整体论,整体论者反对还原论,但他们大都能接受递归论,因为递归论以动态的形式兼含整体性和还原性,可以说是一种对立统一。递归论远比整体论更具操作性,更易于应用实践。上述分形几何、混沌行为、人工生命,都堪称是递归论科学的具体成功杰作。
例如,用分形几何可以较好地预测一棵树长大后的树枝的整体形状,尽管在具体枝叶上未必准确——与长大后的真正形状并不完全重合。这正像无法精确预测随机事件的每一个实现,却能掌握其大数律、统计律乃至分布律。两个同分布的随机变量x和y,在此意义上等同。对x的完全刻画就是对y的完全刻画。除非完全掌握y的产生机制,否则对x的最好预测就是对y的最好预测。再如,刻画一根羽毛在空中的飘动轨迹,因其极为不规则,是还原论无法企及的。但是用类似分形几何的递归工具,就可能给出它的一个良好刻画。这一刻画与真实轨迹在整体上十分相近。因为递归兼顾整体和局部,而还原过于重视局部,忽视整体。整体论反之。
正在出的博文系列:
与师生谈人工智能:
1.智乎哉? 2. 奢求精确之误 3.精确定义之病 4.图灵测试 5.强人工智能
6. 能而欠智 7.深度学习的短板 8.深度学习对老牌AI 9.深度学习的实质 10.与外界交互
11. 环境之复杂 12. 系统≠内部元素及联系 13. 总影响≠直接影响+间接影响 14. 总体≠部分之和 15. 分析还原的威力
16. 还原论科学的威力所在 17. 宇宙的本性 18. 实验:超实?欠实? 19. 技术的威力 20. 现代人造的新主人?
与师生谈现代化之弊
1:崛起的代价 2:发展必好无疑? 3:发展的恶果 4:科技进步果真进步? 5:科技的罪责
6:开发进步善哉恶哉?7:现代化恶果之因 8:现代化恶果之因2 9:资本主义与个人主义 10:资本主义的修正与回潮
11:全球化的好歹 12:全球化的好歹 13:西化、现代化、全球化 14:现代化的本质 15:文化全球化?
16:妈的奶贼腥 17:多元优越 18:四大主义 19:“化私为公”的隐形手 20: 进步的魔咒
21:进步的陷阱 22:进步的后果 23.成功的反噬 24:进步的残酷 25: 进步到恶神末日
与师生漫谈科研文化
1:我有科研之才吗? 2:我该做科研吗? 3:逻辑推理的作用 4:人生价值 5:生命的延续
已出博文系列:
与师生谈科学之弊
1:线式因果思维1 2:线式因果思维2 3:线式因果思维3 4:螺环之奇妙 5:幻化的因果
6:不牢靠的因果推理 7:分析还原病 8:还原论教条 9:基因未必基因 10:割根裂本
11:强拆硬分 12:科学的领地 13:科学的致命伤 14:科学的致命伤2 15:逻辑之可错
16:逻辑可错之源 17:“脚踏实地”的逻辑?18:逻辑:真理焉?宗教焉? 19:想不清原理 20:想不清原理2
21:逻辑教的改革 22:逻辑教的改革2 23:精确性的终结 24:科学哲学 25:务外逐物
26:科学六弊 27:科学之弊总结
与师生谈科研选题:
1:科研的战略、战术和战斗力 2:选题三准则:趋喜避厌 3:选题三准则:如何培养兴趣 4:选题三准则:择重舍轻,扬长避短
5:得题之关键 6:如何应对新潮 7:选题四建议 8:总结:选题好比找对象
与师生谈研究策略:
1:科研四要素 2:突出重围的法 3:人人信之而善忘的黄金法则 4:孤胆方是英雄,独创才有真才 5:大道至简,科学之魄
6:弃繁就简 7:以特制胜 8:综括 9:反行众道,改形换状 10:迷雾中的灯
11:技穷时的上策 12:驾驭时间之术1 13:驾驭时间之术2 14:保质增产之法 15:类比、联想、猜测、推证
与师生谈学习门径:
1:广度与深度 2:增加深度的窍门1 3:增加深度的窍门2 4:增加深度的窍门3 5:增加深度的窍门4
6:增加深度的窍门5 7:增加深度的窍门6 8:如何培养直觉和想象力? 9:基础不好,死路一条?10:阅读策略1
11:阅读策略2 12:博览之术 13:增强记忆1 14:增强记忆2 15:如何听讲
16:最佳捷径
与师生谈科研输出:
1:论文写作五要点 2:论文的结构、条理和语言 3:标题、摘要、引言、结论 4:作学术报告四建议 5:与编审人员打交道
与师生谈科研道德:
1:何谓弄虚作假 2:何谓剽窃? 3:何谓自我剽窃? 4:版权
5:谁该当作者? 6:署名顺序怎么定? 7:其他学术不当行为 8:总结
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-11-24 22:09
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社