博文

谈人工智能12：系统≠内部元素及其联系

已有 4963 次阅读 2021-9-25 13:13 |系统分类:教学心得

学：学生，教：教师，李：李晓榕

李：与上述讨论密切相关，一个根深蒂固的普遍错误观念是：一个系统的本质和全部行为特征是由系统内部的组分及彼此关系确定的，甚至认为，一个系统的本质属性就是它单独存在时的本质属性。即：系统 = 所有内部元素及其联系。其实，某些东西特别是智能行为和整体性态，是在与外界交互，而不只是内部元素的运动、联系或互动，才产生、外现的。正因如此，在与人工智能息息相关的认知科学中，日渐受到欢迎的涉身—交互（embodied-interactional）认知观，把与环境交互作为认知不可或缺的要因，而认知是智能的基础。心理学家也大多强调对环境的适应能力在智能中的关键作用。

教：您说这是个普遍错误，我还是不懂，能不能进一步解释一下？一个系统的本质和特征不都是由系统的内部组成决定的吗？外部的影响不都是通过内部才起作用的吗？所以，只要对内部研究透彻，不就掌握了这个系统吗？

李：这有整体性、开放性等多个方面。如上所述，除了孤立系统之外，任何一个系统都是一个更大系统的子系统，是在与外界的交互中界定自己，正如黑格尔所说：相互作用是事物真正的终极原因。

“复杂”这一概念含义丰富，我觉得它有“杂、联、开、变”等多方面的体现。深度学习与现代科学的多数分支一样，比较能对付种类繁多的“庞杂性”，而不擅长对付开放性和变化性甚至内联性等类复杂性。生命这样的复杂系统，都得是开放系统，开放性都是关键。既然我们知道的智能都离不开生命，智能对开放性的依赖也应至关重要。而开放性的本质就是与外界密切交互。

开放性。不与外界交互，系统的有些性质和潜能是无法靠研究内部组分及其关系得到的，正如人的某些潜能潜质要在适当时机受外界刺激、与外界互动才会被“唤醒”一样，即“情急智生”或“时穷节乃见”（文天祥《正气歌》）。长期没有交互刺激，会丧失这种潜能潜质。科幻小说之父威尔斯的名著《时间机器》所讲的未来故事，就完全依赖于这一点。书中明确指出：“人类的才智是在应付变化、危险和难事时相应产生的。一个与环境相处得极为和谐的动物就像是一套完美的装置。人类总是在习惯与本能无能为力时才求助于智慧的。在没有变化或是不需要变化时，就不会产生才智。只有那些要应付大量的需求和危险的动物才拥有才智。”不过，对于我们熟知的还原论科学所擅长对付的非复杂系统或者庞杂型复杂系统，这个问题也许无碍大局。

但是，我们这儿关心的是开放系统，是智能系统，是活生生的生命，是复杂开放的有机体。对于这样的系统，不难理解存在这种仅靠研究内部所无法把握的潜能潜质，因为：①只有外界作用才能“激活”它，②外界作用会使系统大为改变，③无此潜能潜质，系统则无法足够程度地改变自身以适应环境，进而改善环境。——这是“活的生命”题中应有之义。与外界的交互，对于生命体远比对于无机体重要得多。一个生命体要维持生命，就必须保持开放，与外界交互，否则生命就会终止。要把握这样的开放系统，离不开对与外界交互的了解。其实，即便非开放系统也会与外界在能量、信息等方面多少有所交换，也就会受外界影响而改变，只是程度不高、被忽略时后果不严重而已。

教：我很困惑。一方面，您说的这些好像很有道理。另一方面，一个东西，难道不是被它自身内部的各方面及其联系所确定？难道不是由其内部本质决定吗？难道它还能有什么其他的东西？一旦我们完全彻底地掌握了这些内部部分及其联系，难道还不能完全彻底地掌握这个东西？这两方面似乎很矛盾，我真是被搞糊涂了。

学：是啊，就连如何与外界交互，难道不也是由内部本质决定的吗？

李：面对一个问题、一个集合、一个系统、一个东西时，我们总是认定，它是由内部的各部分构成的，一旦完全彻底地掌握了这些内部部分及其彼此联系的本质属性，也就完全彻底地掌握了这个东西。这是因为我们习惯于在还原论的框架下思考。这样就确实会把如何与外界交互也都归因于内部本质。这是否合理，取决于所谓“内部本质”到底指什么。关键是，这种本质，不可能靠只研究内部元素及其关系而不与外界互动来掌握。那它还是“内部”的吗？与外界的联系算内部吗？任何一个观念的真正意义和关键在于指导实践。基于“内部本质”的还原论科研不重视与外界的交互，而认定一个系统的本质特性是独立于输入输出或外界变化的内部东西，就像一个数学函数（映射）一样。比如，就连控制论考虑的系统也全都如此，而控制论、信息论、系统论这“现代三论”享誉当代，被认为不被还原论所囿。其实，一个开放系统独立时和开放时是不同的。如果相同，那它就不是开放系统。形象地说，独立的东西是无机的、机械的、死的，而开放的是活的。这就像死心脏和活心脏有区别、割下来的手不再是活人身上的活手一样。无视它们的区别，就会靠研究死心脏来理解活心脏。活物的活性全靠与外界交互。一个东西越复杂、越有生命力，就越会与外界交互。开放性的实质是能与环境交互而形成环。所以一个开放系统A是一个闭环B的一部分，只研究开放系统本身，就是把A从B中切出来，单独研究，这当然很不完善，结论会误导人。环境环境，带“环”之“境”，应该有环，无环则无交互。环很奇妙，会产生飞跃（见早先所谈的“环之奇妙”），它是形式逻辑的“克星”。早先说过，基于同一律“A就是A，始终不变”的形式逻辑是静态的逻辑，而辩证逻辑是动态的逻辑，它认为A是可变的。

还有一个重要方面。“分而研之”的分解分析方法是还原论的主流方法，它轻视所分各部分之间的联系，往往认为组成部分比彼此联系更重要，而且不认为这些联系会改变组成部分的本质属性。这跟统治整个西方现代社会的个人主义¹也大为相通、相互呼应和影响。个人主义是一种关于抽象个体的主义，它注重个人的利益和状态。正像强调“一滴海水含有整个大海的全部滋味”一样，它的一个预设是，一个人的生命意义和价值取决于他的独立存在，而不是与他人、社会和自然界的联系，社会的价值就是其组成成员的独立价值之和。可见，个人主义是一种社会还原论。其实，离开了他人和社会，个人的本质、意义和价值何在？这样的个人，除了动物性之外，还有什么？如果再抛开自然，那还剩什么？

还原论和个人主义都是在十七八世纪勃兴的，这更反映了它们之间的深刻联系。它们首先都与牛顿力学的创立和随后的巨大成功密切相关。牛顿影响深远的巨著《自然哲学的数学原理》有一个预设：世界由相同的粒子组成，应该用这些粒子的本质属性来解释世界，每个同种粒子有相同的本质属性，即单独存在于虚空时所具有的属性。其实，遑论东方的思想，早在古希腊，亚里士多德就有很强的系统论思想。他明确指出，整体不等于部分之和，部分对整体有依赖性。其实，整体≠所有部分之和：整体可能会有全部部分所无的新质，也可能会缺部分所有的质或量。因而在研究一个系统时，不能只用还原论、机械论的观念，只关注组成部分，把部分从整体中抽离出来单独分析研究。而且，量子纠缠现象也说明了这一点：一对耦合的量子在空间上被分开后，仍然密切相关，改变其中一个的量子态，另一个的量子态必定随即（远快于光速）改变，无论它们相距多远。量子纠缠的存在违背了绝大多数科学家的科学基本信念——分离性或定域性（非超距性）——这种信念是根植于还原论的。比如爱因斯坦就把量子纠缠当作他所用归谬法的一个逻辑矛盾而拒斥，完全想不到、恐怕也不会接受它后来竟然会被证实是一个物理事实。

教：您这个说法很有意思，把个人主义和还原论联系起来，这种联系对我来说很新颖。这是您自己想到的吗？

李：是的，如果不是，我往往会点明出处。之所以会想到，大概是因为还原论和个人主义都是我的重要思维对象吧，我也就比较自然地会想到它们之间的联系。对于还原论，早先比较认真详细地谈过几次。以后机会合适时再详谈个人主义。你们觉得我说的这个联系很有道理吗？

教：我觉得挺有道理，不过我对它们并没有任何研究，当然也就不能肯定。

______________________________

1.根据权威的《牛津英语大辞典》（The Oxford English Dictionary）和威廉斯的名著《关键词》（Raymond Williams, Keywords），individual（个人）一词源自拉丁语，原本的意涵是“不可分的”（indivisible），它逐渐演变为“与众不同的单一个人”，相对于“普遍的，一般的”（general）的“个别的，独特的”，进而变成“无法再分割的个体”，最终成为人类社会团体组成中可还原的终极最小单元——（个人主义的）个人，并由此衍生了“个人主义”（individualism）这个词。

正在出的博文系列：

与师生谈人工智能：

1.智乎哉？ 2. 奢求精确之误 3.精确定义之病 4.图灵测试 5.强人工智能

6. 能而欠智 7.深度学习的短板 8.深度学习对老牌AI 9.深度学习的实质 10.与外界交互

11. 环境之复杂 12. 开放性

与师生谈现代化之弊

1：崛起的代价 2：发展必好无疑？ 3：发展的恶果 4：科技进步果真进步？ 5：科技的罪责

6：开发进步善哉恶哉？7：现代化恶果之因 8：现代化恶果之因2 9：资本主义与个人主义 10：资本主义的修正与回潮

11：全球化的好歹 12：全球化的好歹 13：西化、现代化、全球化 14：现代化的本质 15：文化全球化？

16：妈的奶贼腥 17：多元优越 18：四大主义 19：“化私为公”的隐形手 20：进步的魔咒

21：进步的陷阱 22：进步的后果 23.成功的反噬 24：进步的残酷 25: 进步到恶神末日

26：自造成恶神