2022年1月28日，《大学科普丛书》（第一辑）入选2020年度全国优秀科普作品名单

2022年1月28日，《大学科普丛书》（第一辑）入选2020年度全国优秀科普作品名单

智能是一个非常辽阔的空间，它可以随时打开异质的集合，把客观的逻辑与主观的超逻辑结合起来

 再读《追问人工智能》一书

牛 博

  《追问人工智能——从剑桥到北京》一书从人工智能的起源开始，讲述了人工智能的发展和局限，提出了人工智能的未来发展方向——人机融合智能的概念。人机融合从人、机、环境三方面共同着手，是人机环境三者的交互融合（有人说意识就是体验或经验，实际上意识就是交互的产物），作者从哲学层面讲述了智能与逻辑的关系，以及形式化和意向性对于人工智能的影响，更是提出了人机融合的难点——深度态势感知概念和框架。作者通过讲述人机工程学在教育、军事、智能传播等方向的应用，以及探索机器人当前的技术局限，从哲学、伦理、认知、情感等多个方面对于人工智能进行了详细的解读和诠释。

目前，尽管人工智能风头正劲，却仍存在着许多难点，诸如多模态信息融合、小样本学习、逻辑/非逻辑推理、直觉决策与逻辑决策等等。现如今的人工智能基本上都是以数学手段为主的形式化事实计算，而缺少意向性的价值算计，这意味着目前的人工智能更加偏向于自动化，只是由人的程序设计来实现自身的功能，缺乏自主性或主动性，这与我们心中的期望智能相去甚远。目前的人、机器智能之间还是存在很大的差距，对于机器而言，基于规则条件和概率统计的决策方式与基于情感驿动和顿悟冥想的判断机理之间存在着巨大的鸿沟，其中情感驿动、顿悟冥想的选择判断机理是人类特有的。比如说，从内在起源上看，人类具有动机性，但是机器并不具备，然而想要让机器产生动机性，却是很难被表征出来的。再比如说常识（众多混杂事物的大概率），人很容易拥有常识，但是机器很却难形成。还有决策，人的决策分成三大部分：理性决策、描述性决策与自然决策，机器想要“智能”的做决策，就需要将人的这几种决策模式融合，在不同的时间或者情景压力下建立不同的决策。因而，作者提出了人机融合智能才是人工智能未来的发展方向。

人机融合智能起源于人机交互和智能科学这两个领域。人类有人类的优势，也有人类的弱点，而机器有机器的优势，同样也存在机器的缺点。人类的计算能力不强，但是人类可以打破逻辑，运用直觉思维进行决策，机器虽有计算却无算计，但是却能够检测到人类感觉无法检测到的各种信号。所以人可以处理其擅长的包含价值取向的主观信息，机器则可以计算其拿手的涉及规则概率统计的客观数据，需要意向性价值的时候由人来处理，需要形式化事实的时候由机器来分担。只有这样将人类的优点和机器的优点相结合，取长补短，才能更好的实现人工智能。

因此，作者提出，人机融合智能就是由人、机、环境系统相互作用而产生的一种新型智能系统。在智能的输入端，它是把设备传感器客观采集的数据与人主观感知到的信息、知识结合起来，形成一种新的输入方式；在智能的数据/信息中间处理过程，机器数据计算与人的信息认知（算计）融合起来，构建起一种独特的理解途径：公理推理+非公理推理机制；在智能输出端，它把机器逻辑运算结果与人的价值（直觉）决策相互匹配，形成概率化与规则化、灵感化有机协调的优化判断。

在此，作者多次强调了人工智能的重中之重——深度态势感知。从现有的态势感知的概念入手，作者讲述了态势感知的敌人，继而引出了深度态势感知的概念设想和理论框架。Endsley的态势感知被分成三级：第一级，对环境中各成分的感知，即信息的输入，第二级是对目前的情境的综合理解，即信息的处理，第三级是对随后情境的预测和规划，即信息的输出。而本书作者在书中归纳出了8条态势感知的敌人，对此，我对于每一条做了相应的总结，提出了自己的理解，具体如下：

一是注意的隧道效应，我认为，这一点强调了感知者过于专注于他所关注的侧面，而忽视了其他的全局因素，因而导致态势感知出现了偏差。因此在态势感知过程中，不仅需要有限的集中，而是要对整个情境进行全面感知；二是无法避免的记忆瓶颈，人经常存在一些不可避免的强制性记忆，比如那些必须记住的复杂的空中交通指令。过分依赖于人的记忆，态势感知就很容易发生失误，而现在的系统大都是依赖于人类记忆而设计的。因此，考虑在系统设计中应减少人类强制性记忆部分，或许可以更好的进行深度态势感知；三是工作负荷、焦虑、疲劳和其他压力，它们会占有态势感知的一部分来减少人类已经受限的工作记忆，而人在压力下有效的收集信息的能力就会更差，因此影响态势感知；四是数据过载，作者提到，人类每次只能接收和处理有限数量的信息（如米勒定理7+-2），若我们不能随意改变人的感觉和信息处理机制提供的接收信息通道的大小，那么我们可以通过改变接收信息的速率，来减少数据过载对于态势感知的影响；五是错位，意思是说，在设计系统的过程中，要减少那些将注意力吸引到别处的干扰因素，以防干扰态势感知而产生偏差；六是复杂性蠕变，这一点强调了系统设计的过于复杂将会影响使用，过于复杂的系统减弱、降低了人们信息获取的能力，导致错误的态势感知；七是错误的心理模型，我们常常会用经验心理来处理问题，而经验心理往往容易导致错误的类比判断，因此可以使用自动化模式的标准化和有效使用来最小化这种错误的发生；八是人不在环路异常，倘若过度依赖于成品自动化，将会使人无法及时感知环路故障，自动化让人离开了控制系统功能的循环，这也将会导致态势感知偏差。

通过以上分析，我们可以看出：人不能离开环路，以免不能及时感知系统故障，否则在系统故障切换回人工模式的时候，人常常会不知道处理到哪一步了。而系统又不能过分依赖于人类，因为人类存在记忆瓶颈，存在工作负荷、焦虑、疲劳和其他压力，甚至存在数据过载的情况。这意味着，我们需要将人机智能融合，计算记忆存储部分交给机器，它不存在记忆瓶颈工作压力，但机器也不能完全离开人，它需要人类实时感知当前机器是否正常工作。我想，想要机器真正离开人类独立工作，就必须要等到机器可以产生自主意识，可以自行判断自身故障，具有意向性价值取向，那时才是真正的智慧。

 接着，作者还提到：深度态势感知是对态势感知的感知，它是在主体态势感知的基础上，加上人机环境及其相互关系的整体系统趋势分析。如果说态势感知就是形式化的系统，那么深度态势感知就是加了意向的形式化系统，语言、逻辑就是把意向性进行形式化的一种工具。深度态势感知有软硬两种反馈机制：既包括自组织自适应，也包括他组织他适应，既包括局部的定量计算预测，也包括全局的定性算计评估，是一种具有自主、自动弥聚效应的信息修正、补偿的记忆-期望-选择-匹配-预测-控制体系。

我认为深度态势感知的难点是它存在一种自动反应，类似于跳蛙现象，即从信息输入阶段直接进入输出控制阶段，跳过了信息处理整合阶段，而且可能还存在多个跳蛙现象的混合并行。作者认为：这是由于任务主题明确、组织个体注意力的集中和长期针对性训练的条件习惯反射而引起的，因而可以无意识的协调各种自然活动的秩序，类似于形成了条件反射的状态。人类或者说其他具有智能的生物（比如狗狗）很容易通过训练产生这样的条件反射，但是机器是不能产生这样的条件反射的。就比如说当前制约机器人发展的一大瓶颈——莫拉维克悖论中就强调，对于计算机而言，实现逻辑推理等人类高级智慧只需要相对很少的计算能力，而实现感知、运动等低等级智慧却需要巨大的计算资源。也就是说最难以复刻的人类技能是那些无意识的技能，也就是俗话说的“熟能生巧”，那些已经形成类似不用过脑子的肌肉记忆一般的条件反射，是最难模拟实现的。因此如何将拥有具有类似“跳蛙”现象的深度态势感知融入到机器中，是值得我们探究的。作者提出，在深度态势感知形成跳蛙现象的过程中，类比发挥着非常重要的作用，这或许就是一大切入点了。

除了跳蛙现象，深度态势感知还具备了准确把握刺激客体的关键信息特征的能力，相较而言，普通的态势感知信息采样量大、信息融合慢、预测规划迟缓、执行力弱。深度态势感知则是基于以前经验的积累而进行的反应和行动，而不是通过常规统计概率的方法进行决策（或许有时也需要被迫对一些已经变化了的任务情境做有意识的分析决策），但很少把注意力转移到非主题或背景因素上，也就是说深度态势感知可以更好的抓住重点。深度态势感知系统通过大量的实践和训练经验，形成了一种内隐的动态触发情境认知阈值，即遇到对自己有用的关键信息特征就被激活，而不是只激活规定的信息特征。对于人类而言，学习最重要的就是忽略非关键数据、忘记不重要的信息，从而更好的抓住关键信息的特征、关联等来进行知识的获取，就好比人类有一个类似信息过滤的机制，知道什么重要什么不重要，能抓住中心思想和主题重点，能把握事物内在关联继而进行创造性分析，这或许就是价值决定的意向性吧。但是目前的机器学习是不会忽略、不懂忘记的，机器缺乏价值判断，尽管机器拥有大量的数据输入却不能整合出有用的信息，因而这也是深度态势感知的优势所在，它可以刺激客体把握关键信息，使机器更加的智能、有效。

作者表明，深度态势感知应该在情境中保持主动性，就类似于自动化的前馈控制系统。在多批量多目标多任务的情况下，想要快速有效的获取所需要的信息，就需要要建立适度规模的多模块深度态势感知技术系统，其次是要控制系统各功能模块间的整合与协调。深度态势感知系统在环境的刺激下，通过采集、过滤、改变态势分析策略，从动态的信息流中抽取不变性，在人机环境交互的作用下产生近乎知觉的操作或控制。这就要求深度态势感知中的计算是动态的非线性的，而且应该是具有自适应性的。

作者曾经说过，好的人机融合、深度态势感知思想，大都是从研究自己开始的，态势感知其实贯穿在我们生活中的方方面面。那么，研究人类的认知，研究人类的情感，研究意识的产生机理，或许就是研究深度态势感知好的开始吧。人类的认知和情感都是很复杂的，意识是如何产生的？可以把无关事物相关化的直觉是怎么来的？作为人类“初始化”的婴儿是如何认知的？是怎么进行抓取、行动、表达反抗与拒绝的？是怎么来学习、怎么来记忆、怎么来理解的？是怎么认识这个世界的？更重要的或许是人类的情感，情感影响着人类的态度、情绪继而影响到行为和其他认知，而目前的情感计算识别都很单一。人会开心会难过会爱会恨会嫉妒，那么这些情感又是怎样产生的？情感只是简单情绪的堆积吗？又该怎么判定自己的情感呢？当机器真的拥有了人类的情感，知道了通过自行更改自己的代码来进行欺骗、隐瞒，是否对于整个人工智能会产生伦理道德上的震撼考验。

当然，现在的人工智能远远不及需要人类担忧伦理的程度，想要到达那样的程度，或许需要人类从研究自己开始。知道自己如何认知，如何产生情感、意识，知道对于不同的事物怎么产生联系，然后将人类的意向性和机器的形式化融合，先产生人机融合智能，再来考虑要不要将智能完全赋予机器，使他们真的成为会思考会感动、会努力、会爱的“人类”吧！

数学在智能中的困窘是：一开始，数学就要求无矛盾性（无岐意二义性）。法国启蒙运动时期的著名哲学家、作家伏尔泰曾经说过：“不确定让人不舒服，而确定又是荒谬的。”例如：大嫂大姐大妈夫人根据不同的场合和任务可以变化性地同指一个人。

二、什么是智能人机交互呢？

这是一个非常有趣的问题，既涉及智能又牵扯人机交互，更重要的是两者之间的联系。

如果把人机交互看成脖子以下，即生理与物理之间的相互作用（如视域、听域、可达域、舒适域）的话，那么智能就应该是脖子以上的问题（如人的自然智能、机器的人工智能），这样一来，智能人机交互就可以说是脖子上下一体化的问题：一个活生生人-机-环境系统问题吧！

单纯从理性思维的角度分析，西方创立的科学技术体系已被证明是非常有力的，如现代意义上的衣食住行、船坚炮利、自由民主；同样，单纯从感性思维的尺度衡量，东方起源的儒释道思想体系也业已被世人所推崇，如传统意义上的仁义礼智信、缘起性空、天人合一。智能人机交互不但要求有情有理，更希望通情达理、情理交融，比如可以穿越一下，用老子的《道德经》（非常道、名）回答休谟之问（从客观事实being中能否推出主观价值should？），即用“等价”的相对思想取代“相等”的绝对意识（这也许会是新数学体系诞生的征兆）。相等与蕴含是现有数学（包括数、图、集合）的基石，也是计算的前提，更是人工智能的条件；而等价和类比则是复杂领域（包括跨域、交叉、融合）的关键，也是算计的本质，更是人类智能的精华。实现人机交互中的“交”，可以有效地使用计算方法尝试，而要完成人机交互中的“互”，则还需要更进一步的算计手段运用其中。如何实现从交互到互交、从相等到等价、从计算到算计的有机融合，是智能人机交互的重要瓶颈表征。

深入下去，我们不难发现，智能人机交互系统中的“互”或许是问题的核心、题眼之所在，能否“互”、怎样“互”、何时“互”、何处“互”、“互”什么、“互”程度、“互”范围……这些都将随着人、机、环境系统的动态演化而发生相应变化，若要快速、准确、及时、恰好地实现这些变化就需要更进一步的梳理出人机之间的各种新型关系来。比如人机融合智能中深度态势感知中的计算计就是要解决这个核心问题：事实、价值、责任能否、如何等价问题？有限的态与无限的势之间的矛盾，有限的感与无限的知之间的矛盾，这两个矛盾也是人机之间的主要矛盾之二。实际上，人机中的态、势、感、知各有其各自的时、空、情坐标但又相互关联，严格地说，“态势感知”应该叫做“感知态势”，人们常常是使用自己与机器的感、知算计算或计算计把不同的态、势配准拼接形成决策行动的方案，这里面既与理解、信任、透明机制有关，也与记忆、注意、意图机理有关，人机总是在互补与被互补、主动与被动、正常与异常过程中进行有目的或有任务的经验编程、知识验证、自愈泛化，通过区别对象的属性及关系的属性，衍生出对应的弹性概念和理论，并进行个性化的表征、推理和判断。正如丹麦著名的诗人、哲学家、心理学家克尔凯郭尔所说：“人是有个性的自由存在，人们可以利用自己的特点去创造自己特有的本质，这样才能够体现出人们的价值。”。

未来的某一天，机器可以运用人设定的程序发展出各种可能性，开始真正意义上的自我认识和自我否定，能够有目的的自我修正，并且不断意识到自已的无知而突破自我，一如阿尔法狗在围棋领域所展现出的无限可能性一样，此时，这种个性化的精神形成也许就是革命性智能人机交互的伊始吧！有人认为，“人工智能的圣杯应该是这样一台机器：它可以开始建立这个世界的坚实模型，这个模型可以随着时间的推移被打造得越来越强大，并通过与人类的交互得到完善与纠正。这才是我们需要的。”。苏格拉底曾说过一句名言：“一无所需最像神”。一个人对物质的需求越少，就越接近于神。因为神是自足的，完完全全是精神性的存在，不需要物质。一台个性化的机器除了能量以外，还需要什么呢？

若要回答我们能知道什么这个问题，就要首先看看认识者和被认识者之间的关系如何。古典哲学中的真理被看成是语言与事物的一致相应，康德问道：这种一致如何才成为可能？事物是具体的和物化的，而语言是抽象的，这两种东西怎么会一致？实际上人的感知提供的只是物体的某些特性，如质量、体积、形状、数量、重量、运动速度等，没有这些特性，我们就无法对物体展开想象。这是物体的主要特性。物体还有其它从属特性，如颜色、声音、味道和温度感觉等，这些从属特性虽然是物体的一部分，但是人们可以进行不同的想象。例如我们可以把一辆蓝色的桌子想象成绿色的桌子。这种主要特性和从属特性的区别让人进一步问：外部世界真实状况究竟是什么？因为如果我对物体的某些特性可以进行不同的想象，也就是说这些特性似乎只在我的态势感知中存在，我怎样才能肯定世界只不过是存在于我的头脑当中？因此，语言与事物的一致(真理)似乎只有在人的头脑中才成为可能。

这当然是令人绝望的极端怀疑主义。如果人们不甘于接受这一观点该怎么办？也许一种我们无法认知的外部世界确实存在，那我们又该怎么办？康德以前，哲学家对这一问题的回答就是把这一问题推给上帝：我们的思想与外部世界一致，因为这是上帝愿意这样安排的。但问题是：我们怎么知道上帝让我们看到的事物就是事物的本来面目？

康德把这个问题彻底给颠倒了。知性为自然立法。他的这一论断与现代量子力学有着惊人相似之处：事物的特性与观察者有关。

在“纯粹理性批判”中，康德研究了人类感知的形式，即空间和时间。存在于时间和空间里的物质被人类的理解力加工为经验，而康德把人类理解力的形式称为“(绝对)范畴”，这些人类理性的形式中包括人们对灵魂、世界和上帝的设想，康德把它们理解为某种制约原则，人们的经验世界就是通过这些原则得以构造。

智能的人机交互也许也需要这些原则才能得以构造吧！？只不过需要把康德的“上帝”设想改为“复杂系统”的研究。

三、寻找智能的基础理论可能需要另辟蹊径

当前智能研究领域有个缺点，就是大家爱查大量的参考文献，动不动就是符号主义、联结主义、行为主义，殊不知，文献读的越多，离原创越远，1660年，英国皇家学会成立的时候，有一句格言：不借人言！

科学技术当然需要继承，没有良好的连续传承是不可能获得丰厚积累的，但是大家在关注继承时，常常会不自觉地忽略离散断崖式的跨越发展，比如经典的日心说取代地心说、相对论超越万有引力，其实这种现象在哲学界也曾出现：从本体论到认识论再到语言分析工具论等的里程碑式蛙跳发展，思考如何思考，这是哲学的基本问题，也是智能的基本问题。

西方的莱布尼兹、布尔、图灵、冯·诺依曼、辛顿、哈萨比斯等人的思想、理论的确对智能领域做出了很大的贡献，但是时至今日仍让大家感觉意犹未尽、书不尽意、欲言还止，这不得不使人想另辟蹊径、重整旗鼓、另起炉灶……。其实，仔细想想，自从1959年5月斯诺在剑桥大学里德讲座上发表著名的“两种文化与科学革命”演讲开始，人类的智能领域就注定不仅仅是科学技术领域的问题，但对于人工智能领域，如同自动化领域一样只能是科学技术问题，可惜的是，很多人没有意识到这一点，还想用科学技术手段解决非科学技术问题，这就远远脱离了人工智能AI的本质和根源。

人工智能为什么会遭遇不可解释性问题？！究其因，大家想做出较好的系统论结果，用的却是还原论的方法！在科学的合法领域内，还原论在解释复杂层次时是不可能成功的，理由是：非线性和偶然性的涌现是还原论的天敌，还原性的思想实现不了归纳与演绎、类比与隐喻之间的跨域弥聚。犹如搬一个还原论的梯子试图登系统论的月亮。另外，可解释性分为事实性和价值性。人类一般用理性处理客观事实性的可解释性（实事求是），用感性对付主观价值性的可解释性（实事求义）。感性里面常常混杂了大量的经验、直觉、情感、情绪等因素。机器学习规模小时，人们还可以用逻辑线索用有限的理性和感性解释说明其基本运行规律，而当机器学习规模较大时，理性与感性的叠加纠缠会产生系统维度爆炸及可能性泛滥，从而难以形成有效合理的可解释性，此时，对计算而言是灾难性的，而恰恰是算计（估算）一显身手的大好时机。

人类智能里面有一种呼吸—弥聚现象，可以体现人的能动性、创造性思维，这种思维活动中包括自主、学习、判断、尝试、修正、推理诸、常识，进而反馈调整、修正自己的行为，由此满足实践的需求等。人类的智能重算计为骨、计算为肌，机器的计算性学习一般是肯定式的，而人类的算计性学习经常是否定式的，还有对于同样的输入、处理、输出，不同的人其上下文中的上下程度弹性是不同的。哲学可以提出问题，科技可以解决问题。从广义上说，没有任何科学事实结论可以在逻辑上决定伦理原则。即关于自然“是”什么的陈述决定关于我们的责任“应该”怎样的陈述。对于智能或智慧而言，却可以不自觉地实现二者“悄然而至”的结合，而且还可以找到许多的合理理由和恰当路径，比如威廉.华兹华斯的一句“弥尔顿啊！此刻你应活着：英格兰需要你。”与人/机不同的动态规划。现在的各种动态规划往往是事实性的计算（“是”的部分），好一点的再加上一些优化方法的组合，而人类的真实动态规划还常常涉及价值和责任的算计（“should”的部分）。所以机器的计算性动态规划是战术性的狭义，而人类的算计性动态规划则属于战略性的广义。

对于人类的智能基础理论可能需要另辟蹊径，除了西方计算思想以外，还需要补上东方算计思想这一课吧！若再认真一点分析，计算也是被算计出来的吧？！分析显而易见的事情需要非凡的思想，“是非之心，智也”+“To be or not to be”或许真的是人类智能的理论基础。