编者按：2021年5月22日，苇草智酷NO.110期沙龙，邀请北京邮电大学人工智能学院研究员、剑桥大学访问学者刘伟以“人机融合智能的未来发展”为主题发表了演讲。

以下内容根据现场速记整理：

为什么起人机环、计算计、是非应这样的标题？

人机环，是智能的核心，没有人机环就没有智能。

计算计，是计算和算计的结合。其中，算计是东方特有的一个概念，因为它是灵活的，动态的。

是非应，是理论基础。在东方体系里面，它讲究是和非，从感性和理性的综合而评判；在西方系统里，讲是和应。在这里，我把东西方的交叉点在这儿给大家用是非应这三个字来表征一下。

一、前沿

我之前写过一本《追问人工智能——从剑桥到北京》，这是一个非常有意思的话题，从维特根斯坦如何延续到人工智能领域，包括图灵，属于有感而发。在这本书里，核心观点分为五点：

1、人工智能：从“史前”到现在

2、认知的奥秘：深度态势感知

3、探索人机未来：人机融合智能

4、 三分天下：人、机、环境

5、 人工智能：伦理之问

第二部书叫《人机融合：超越人工智能》，延续了上一部书没解决的一些问题，做了更深化的思考，分为五点：

1、智能的本质

2、人工智能迈不过去的三道坎

3、深度态势感知

4、自主性问题

5、人的智慧和人工智能

智能的根本问题不完全在产品和智能系统，也不在科学和技术，有时甚至在人的决策。真正的智能是一个人机环境的系统，人的智能、机器的智能和环境的智能如何融合才成为真正的智能。

对于智能的理解是一个非常有意思的方向，也是关键之处。智能究竟是什么？智能本身是一个复杂性系统，包括科学和非科学部分。计算一般是逻辑（家族相似性）关系，算计常常涉及非逻辑（非家族相似性）关系。

目前整个人工智能获得智能领域涉及到几个核心的难点：

1、可解释性

2、机器常识

3、机器的终身学习

4、自主动态的一多表征

5、弱相关如何形成强相关

目前来看，人机混合、人机交互、人机融合的难点和关键之处常常在于第一是融、第二是互。关键之处第一是多、第二是人。任何一个产品系统，只要和人打交道与人碰在一起就会变得很复杂。

现在，各国在继续开发第二代人工智能技术及其应用的同时，积极布局第三代人工智能发展，旨在通过机器学习和推理、自然语言理解、建模仿真、人机融合等方面的研究，突破人工智能基础理论及核心技术。

当前，人工智能的难点和痛点，究竟在什么地方？他们的共同特点是有两大支柱。第一个支柱叫做机器学习；第二个支柱叫自主系统。在支柱之下，有一个很前卫的概念叫人机环境系统的协同。

二、AI 的不足之处

第一：可解释性差

AI的不足之处，用《孙子兵法》中描述为：“兵者，诡道也，故能而示之不能，用而示之不用，近而示之远，远而示之近。” 除了用古代的《孙子兵法》，近代的《战争论》，未来可能是《人机环境系统智能》研究。

现在的自主是一种“伪自主”研究。为什么说是“伪自主”？这是由于基于底层的技术架构——机器学习和大数据处理机制局限所致。无论行为主义的强化学习、联结主义的深度学习，还是符号主义的专家系统都不能如实准确地反映人类的认知机理，比如直觉、情感、责任、价值等。从客观的事实里得不出主观的价值和责任。

之所以不好用，首要原因是可解释性，这是制约人工智能在各个工程和应用领域里面最重要的拦路虎。可解释性的实质是小数据信息的知识化，也是人类学习的秘密。

AI可解释性之所以困难，在于其包含的不仅仅是数学语言，还有管理者、设计者、使用者、维护者等的自然语言，甚至是思维语言。

第二：常识，是制约机器做不到人的实践

正如我们所知，数学的逻辑和生活的逻辑是不一样的。数学是建立在公理基础上的逻辑体系，其核心是相等或蕴含关系；而人的交互体验是非符号的等价或包含关系。不同的事物之间有等价关系，但是他们不是相等关系，必须等于才成立。

第三：人类的学习：活学活用

人类的学习是全方位的学习，不同角度的一多变换学习。能够产生范围不确定的隐性的知识和规则。

机器学习是一种隐喻，只是一定范围内的事实输入，处理、输出不能够产生价值（其价值还需要人类解读）。机器学习是单模态的累加，而不是综合的动模态的。

总之，AI追求数据化、确定性和理性的解释，假定任何问题都有标准答案，把每个决策简单地变成约束条件下求解，变成数据计算。但是，真实世界里具有大量的不确定性，没有标准答案，需要人的想象力和算计，不是循规蹈矩。

三、智能究竟是什么？起源是什么？

智能是一种由人、机、环境系统相互作用而产生的组织形式，是物理、生理、心理、数理、管理、哲理、文理、机理、艺理、地理、伦理、宗理等等多事实、多价值、多责任的混合适应体系，随机应变。智能可能不是类脑。

2019年2月14日，美国防高级研究计划局（DARPA）公布“人工智能科学和开放世界新奇学习”（SAIL-ON，泛舟）项目：使AI系统自主识别和响应现实世界环境的变化。

在这个项目中，分布着四个特点：

1）认识到世界发生的变化

2）表征世界如何变化

3）适当调整其反应

4）学会适应后，更新其世界模型

这四个特点，即将引导未来智能的走向。就好比，“事物的特性往往与观察者有关”这句话体现了东方思想中人和人、人和物之间的关联性。

1.东西方“智能”的区别

用一句话来概括，东西方的“智能”区别：一个类比/隐喻多（人），一个归纳/演绎多（机）。东西方的思想差异在于一个是算计、一个是计算。

计算和算计是两大体系，核心是体验。

那么，什么是计算？什么是算计？计算是从已知条件开始的逻辑（解决“复”），算计是从未知前提出发的直觉（处理“杂”）。算计的核心有两个字“异”和“易”。

算计里面对于不同领域的东西进行变化平衡的处理，这是算计的核心，而计算恰恰是讲究相同的结构，相同的数据，相同的性质，才能进行，算出的结果往往是不变的、是确定的。

2. 什么是人机融合智能？

它不是人工智能，而是一种由人、机、环境系统相互作用而产生的新型智能形式，既不同于人的智能，也不同于机器的智能，是把一种物理、生理、心理、数理、管理、哲理、文理、机理、艺理、地理、伦理等相结合的崭新一代智能科学体系。

智能不仅涉及形式化的拓扑，而且还包括意向性的拓扑。“有一天出现包含有矛盾的数学演算研究，人们将会真正感到自豪，因为他们把自己从协调性的束缚中解放出来了”。

3.自动化、人工智能、智能的区别

自动化是确定性的输入，可编程的处理，确定性的输出；

人工智能是部分确定性的输入，可编程的处理，部分确定性的输出；

智能是不确定性的输入，不可编程的处理，不确定性的输出。

除此之外，还有功能和能力概念的不同。功能是所有的自动化产品，机械化产品都是具有功能而没有能力。人工智能到目前为止也只有功能没有能力。只有在小说、电影、艺术品里面的人工智能或者智能系统才有能力，而人恰恰是有能力一个标志。

人的能力是从内而外发出的，有目的性，指向性，意向性，主动性的，而功能是没有的。功能的基础是逻辑，是数学，是映射，这是功能最重要的特点。

能力是什么？是人类最重要的漫射、散射、影射，是无法用形式话的手段进行建模。

4.态势感知

态势感知在一定的时间和空间内对环境中的各组成成分的感知、理解，进而预知这些成分的随后变化状况。

深度态势感知是对态势感知的认知，它是在Endsley的态势感知（数据/信息输入、处理、输出）基础上，混合人、机智能。既包括了人的意向性，也融合了机的形式化。

既涉及事物的大数据能指又关联它们之间的小/无数据所指，既能够理解事物原本之意，也能够通情达理、明白弦外之音。

5.人机融合智能的溯源

人机融合智能的本质是把事实与价值统一起来：人负责价值，而机处理事实。

对人机融合智能的理解，分为五点：

l  输入混合表征的能指与所指切换（如人机常识的一致性）；

l  人/团队的归纳、演绎、类比推理与机的统计性推理结合；

l  人/团队的风险性决策与机的无责任性决策；

l  人/团队的自否性反思与机的机械性反馈协调；

l  如何通过任务需求自动调度控制人机资源分配、功能匹配。

所有的智能里面还都有相反的作用，正如阴里面有阳，阳里面有阴，是反作用力的。这里引申出反人工智能。反人工智能就是要加速我方人机环境系统的协同联合能力，同时破坏对手的人机环境系统的协调融合能力。

智能和人工智能最大的区别，第一，智能里面不是场景化的，同时还包含了艺术。第二，智能里面有辩证和矛盾的处理权衡机制。第三，真正的智能里面有洞察力，把握should即应该干什么，这是主动性最重要的体现。第四，智能里体现知几、趣时、变通，而人工智能则体现规则、统计、稳定。

四、智能的思考与难点

第一， 未来的智能化涉及从计算走向算计（功能到能力），从科技走向艺术，是有算计的计算或有计算的计算：计算计+功能力。

在人机结合中，什么可以自动化？应该如何自动化？什么时候应该自动化？

第二，智能不是有序，有序的叫仆人，真正的智能里面包含混乱和无序。                                                           

智能不是整体大于局部之和的2>1+1 ，智能也不是局部之和大于整体的1+1>2，而是整体与局部之和的混合1+1><2。智能不是适应，智能也不是不适应，而是适应 + 不适应双向的结合。

第三，真实的智能：事实+价值+…

真实的智能有着双重含义：

1、事实形式上的含义，即通常说的理性行动和决策的逻辑，在资源稀缺的情况下，如何理性选择，使效用最大化；

2、价值实质性含义，既不以理性的决策为前提，也不以稀缺条件为前提，仅指人类如何从其社会和自然环境中谋划，这个过程并不一定与效用最大化相关，更大程度上属于感性范畴。

过度依赖AI易造成失去人性中的自信、果敢、责任和勇气。

第四，人类智能的基石可能不是数学

人的智能在于知道自己的不智能，人类可以形成并跳出概念并使用概念，机器智能则不然。

第五，智能不是万能

智能仅是解决问题的一种工具手段。

对于人、机而言，人的动态规划与机器的动态规划却是不同的：有经验的人可以游刃有余地将一个复杂性大问题拆成事实、价值、责任等不同性质的小问题来求解，即用事实、价值、责任的不同化法进行大事化小，小事化了，还可以避免各种一孔之见和固步自封，而目前的机器对此异质合取，化解问题依然望尘莫及，人工智能只会模式对比（不是类比），也许这也是人类智能的又一个瓶颈和难点：如何有效地处理异质性的非形式化问题？

第六，计算+算计=计算计

计算算法只是提高效率的工具和机制，不能自主的决策系统，算计算法里面包含自主的决策和非标准的多重因果及相关关系；

智能算法不同于数学算法，它是一种超出数学计算的算计，不但有显性的逻辑推理，还有隐性的知识和秩序运筹，是科学与艺术的融合。

在计算计系统中，如果把不同计算看成乐队里的各个乐器/乐手，那么算计就是让乐队演奏起华美乐章的那只看得见的指挥之手。

第七，人机功能力分配是关键

人机功能力分配是人的能力与机器的功能分配，人具有主动性的能力使然（使能），机体现被动试的功能赋予（赋能），是人的动态算计与机器的准动态计算之间的分配。

人的能力是会随着人机环境系统的变化而变化的。需要探索新的因果关系、统计概率、递归迭代、与或非……

第八，机是半导体，人是变导体

数据/信息/知识本身既包括事实也包括价值，只不过事实是以显性方式表征，价值常以隐性方式出现，计算处理的是事实，算计对待的是价值，当然，更多时候使用的是计算计方式。

从事实到价值的桥梁如果是概念，那么就是计算，从事实到价值的桥梁如果是实践，那么就是算计……

第九，哲学不仅可以解释世界，也可以改造世界

真实实践过程中，归纳、类比、演绎、隐喻的嵌套递归混合造成了现有理性逻辑推理的无能为力。

所有的信息知识和核的数据都不是固定的，都是变化的，动态的，多样的。随着外部的实践和交互产生相互的作用。

人常常有内外两套态势感知系统（OODA系统）耦合而成，共振时最强，抵消时最弱，另外还有一些非智能因素（即智慧）影响决策系统：想不想、愿不愿、敢不敢、能不能……这些因素虽在智能领域之外，但对智能的影响很大。

五、总结

经过多年的深入研究，我给智能做了以下几个定义：

1、智能是人机环境生态系统交互所产生出的一种功能力；

2、智能是科学与非科学的复杂系统；

3、智能的基础不仅仅是现代的数学；

4、智能不是大数据的，而是小或无数据；

5、智能是事实与价值混合在一起的开放性计算计决策系统；

6、智能不是万能的（如胆识），智能里包含反智能。

最后，引用茹科夫斯基所说：“使人类飞翔在天空的不是肌肉的力量，而是智慧与思想”。

今天的分享到这里，请大家静待第三部书——《非存在的有》的出版，谢谢大家！