博文

谈人工智能10：与环境交互精选

已有 7357 次阅读 2021-9-11 12:43 |系统分类:教学心得

学：学生，教：教师，李：李晓榕

李：在信息处理的关键核心方面，人类智能大多有赖于因地制宜、因势利导、通权达变、平衡多方面考虑的中庸中和之道，而迄今人工智能的基础是：①逻辑的符号演算，②基于知识的应对规则，③基于培训的目标优化。它们都明显比人类智能粗陋逊色得多。另一方面，真正的智能在作用机理上离不开至少三大部分：①与内外环境密切交互，②内部的大量圈环作用，③大量的组成单元。对于由简单单元组成的系统，更是如此。智能学的一大关注对象“集群智能”往往特别强调第三部分，不大重视第二部分，忽视第一部分。虽然比老牌AI有所改进，深度学习对前两部分总体上仍然重视不够，特别是第一部分。

教：您说智能要求与外界密切交互，关于这一点，您能不能展开再多说说？

李：这有多个方面。比如，在智能中起关键作用的意识，就离不开与外界互动的高度发展。尽管西方自笛卡尔以来流行心身二分，但是新进发展起来的身体认知理论认为，一个人的思想认识还有赖于其身体，不能脱离自身身体而完成，即一个人的认知还有赖于其身体与外部世界的交互。更有甚者，近来的研究发现：人体内的巨量微生物菌群和寄生物，不仅给人带来海量外源基因，而且会深刻影响人的情绪、状态、个性乃至认知和“自由”意志等高级精神活动。

人们往往强调人工智能产品有如下普适的可传递性：一旦用某个算法B的某台机器A能胜任一项任务，那么内含算法B的其他机器也都胜任这一任务。严格地说，事实并非如此，它至少有两大陷阱：①即便环境毫无改变，也只有A的精确而完全的复制品才能保证也胜任。只是内含或利用算法B（比如B作为更大算法的一部分），并无这一保证。

教：可是，内含算法B的其他机器也都胜任这一任务，这有不少例子。

李：那是因为那些任务都不够复杂，对“智”的要求低，无需与环境密切交互。只要任务足够复杂，我说的这些问题就会出现。②更重要的是，如果环境不同，或者完成任务有赖于与环境密切交互，因而所需之解并非“共解”，那么就连完全彻底的复制品也未必能胜任这一任务，除非它总能正确妥善地与环境密切交互而完成任务。而这种能力需要较高等的智慧，很难获得，也难以传递或移植。所需的交互越密切，就越如此。极端地说，在传递或移植中无法保留的，正是智慧的核心；越具有可传递性、可移植性，就越是共解部分，也就越无真正高级的智能。

学：什么是“共解”？

李：简单地说，共解是只适用于一类问题共同部分（共性）的解。比如，在比较两种职业好坏时只比较其薪酬高低，所得的解就是这类问题的一种共解。殊解针对一个特殊问题，充分考虑其特殊性。早先在谈科研治学时详细讨论过。对上述例子，就应考虑职业的诸多方面。对人工智能而言，殊解比相应的共解更难得多，对人类则未必如此。问题越复杂，殊解与共解的差别就越大，人工智能就越难得到殊解。

深度学习网络在完成任务时无法与所在的环境密切交互。它利用事先获取的大数据针对任务靠培训来“一揽子”地适应大数据所反映的各种情境，其数学实质更像函数拟合，进而插值：靠大数据训练来拟合以确定插值模型，当前数据确定插值点，得到插值结果，而不改变插值模型。这有不少缺陷和局限，上面已经说了一些，还有不少。比如，①内插的效果也许好，外推则不然，所以要求训练数据集尽可能完备无偏地“覆盖”所有可能的情境。②一旦插值问题有所改变，例如输入类型或个数有所改变，就得重新强化培训，因为网络结构变了。基于深度学习的自动驾驶技术就有这种尴尬，它每次调整传感器的种类或个数后就得重新学习（之前所学的都无法直接用了）。这与人类学习大相径庭，也给实际应用带来极大不便。

由上可见，深度学习的机理框架更适于得到“共解”，因为训练所用的大数据来自种类繁多的场景、情况各异的情境，而不是当前任务的特殊环境。只有能与当前环境密切交互，才能得到这一环境下复杂问题的“殊解”。我历来强调“殊胜于共”：一个好的“殊解”优于只顾一类问题共性的“共解”。

在本系列前面说过：一个好公式、程式、程序能解决多个不同的问题，但难以解决不同类型的问题；一种好方法能根据不同问题的特性，得出不同的程式，解决大量不同类型的问题；程式有按部就班的本质，而方法更重变通、因地制宜，虽然它仍有统一的指导方针。所以，多个问题的统一程式解只能是一种“共解”，而针对具体问题的特殊性所得的非程式化之解才是“殊解”。不同的殊解有可能是同一方法所得，但不会是同一程式所得。

教：怎么做，才算是与环境密切交互？

李：不该只被动地利用数据，至少要积极主动地谋求与环境“对话”，有来有往。比如不断地向环境发问、刺激环境，看其答复和反应，再相应行动，进一步刺激和发问，就像主动实验而不是被动观测一样。还要更进一步，不仅因地制宜，还要因势利导，促使环境改变。关键是，环境不同，解法也就不同。

教：您是说，殊解是适应环境的？

李：殊解不仅仅被动地适应环境，还可能积极主动地促使环境朝着有利的方向变化。大量复杂问题（比如社会问题、环保问题）的良好解决都应该是这种主动促使环境变化的殊解。

学：李老师能不能举一个具体例子说明上面所说的这些？

李：好的。某人由于未知原因，站在一栋高楼楼顶，正想要跳楼自杀，我们的任务是劝她不要跳。考虑一个机器人，针对这种任务做了大数据深度学习，所用的大数据包括有史以来所有相关情形的全部数据（情形描述、当时的对话及各种交流、劝说结果、事后的分析，等等）。你说这个机器人能很好地完成任务吗？

教：当然不能。

李：为什么？要知道，这个机器人学习了以往类似情形的全部信息。

教：因为劝说者必须跟她交流沟通，随机应变，对症下药，比如充分利用亲情，真正打动她，而这是非常微妙的。最好能洞察人心、将心比心，这是极其高超的智慧，机器人做不到，至少深度学习做不到。以往类似情形的信息对成功劝说虽然有帮助，但是很有限，还远远不如对她了解深刻更有用，比如是她的闺蜜。

李：这儿，交流沟通、见机行事、将心比心、对症下药就属于我说的与环境密切交互。这种任务需要殊解，即针对所面临的特定问题求解。针对这类问题共性的共解在此效果不会好。求取这类殊解的能力，一般更是“技艺”或“艺”，而不是“技术”或“术”。后者一般更适于通用的共解，而前者强调其因地制宜的内涵，更适于殊解。

学：对于这种任务，情商高恐怕比智商高还重要。

李：我看也是。这个例子旨在说明与环境密切交互的重要性，以及共解和殊解的不同。