摘自《科学新闻》2021.12

我们每天生活在人机混合的环境里，人机关系的评价体系主要有三个方面：1、人、机自主程度；2、人、机协同绩效；3、人、机间的信任程度。其根本原因在于智能不是人脑（或类脑）的产物，也不是人自身的产物，而是人、物、环境系统相互作用的产物。人工智能的优势在于庞大的信息存储量和高速的处理速度，但是无法处理如休谟之问这样的问题，即从“是”（being）能否推出“应该”（should），也即“事实”命题能否推出“价值”命题。

一、人工智能研究动向与不足

目前，国内外人工智能的核心在于两个方向，一个是“机器学习”，另一个是“自主系统”。在机器学习各方法中，深度学习方法容易导致局部（非全局）最优，强化学习很难识别意图的隐藏和伪装，迁移学习的跨域能力很差等等，这些机器学习的缺点很难实现真正的智能；另外，现在的自主系统还处在“伪自主”阶段，究其因是其底层的技术架构---机器学习和大数据处理机制局限所致。无论行为主义的强化学习、联结主义的深度学习，还是符号主义的专家系统都不能如实准确地反映人类的认知机理，比如直觉、情感、价值等。

二、目前人工智能技术的核心问题

当前的人工智能及未来的智能科学研究存在两个致命的缺点：（1）把数学等同于逻辑；弗雷格、罗素等逻辑主义者一般是把数学归于逻辑学(logic)之下（“+logy”也成为许多学科(非所有学科)的字尾，譬如生物学Biology=bio(生)+logy(学科)）。逻辑是探索、阐述和确立有效推理原则的学料。数学不等同于逻辑，数学研究空间形式和数量关系结构，是一种基于公理的逻辑体系；逻辑研究思维的形式结构。二者一致之处为“研究对象都是高度抽象的结构”。一方面，数学和逻辑的研究对象不同，数学的研究对象是客观事物的空间形式与数量关系，而逻辑学的研究对象是思维的形式及规律；另一方面，数学和逻辑的任务和目标不相同，数学的主要目标和任务是揭示客观事物的空间形式与数量关系的特征，探索其规律性，而逻辑的主要目标和任务却是为了解决思维推理形式的有效性或真实性问题。（2）把符号与对象的指涉混淆。符号重点在于表征，而对象重点在于意向性，一般来说，一种意向可以对应一种或多种符号，而一种符号代表的意向性也可以有多个指向（如能指、所指、意指），人类可以用“一花一世界，一树一菩提”灵活地表征任何事物，而目前的机器却只能用固定打标的方式孤立静止片面地表征一个事物。 

这两个缺点直接诱发了以下几个很难解决的智能领域及博弈智能领域问题：1、客观数据与主观信息、知识的弹性输入——灵活的表征；2、公理与非公理推理的有机融合——有效的处理；3、责任性判断与无风险性决策的无缝衔接——虚实互补的输出；4、人类反思与机器反馈之间的相互协同调整；5、深度态势感知与其逆向资源管理过程的双向平衡；6、人机之间的透明信任机制生成；7、机器常识与人类常识的差异；8、人机之间可解释性的阈值；9、机器终身学习的范围/内容与人类学习的不同。

三、人机混合智能是未来智能领域的发展方向

智能是一种由人、机、环境系统相互作用而产生的组织形式，是物理、生理、心理、数理、管理、哲理、文理、机理、艺理、地理、伦理、宗理等等多事实、多价值、多责任的混合适应体系，所以智能可能不是单纯的类脑（比如狼孩的人脑就没有人类智能）。

人工智能只是人类智能可描述化、可程序化的一部分，而人类的智能是人、机（物）、环境系统相互作用的产物。智能生成的机理，简而言之，就是人物（机属人造物）环境系统相互作用的叠加结果，由人、机器、各种环境的变化状态所叠加衍生出的形势、局势和趋势（简称势）共同构成，三者变化的状态有好有坏、有高有低、有顺有逆，体现智能的生成则是由人、机、环境系统态、势的和谐共振大小程度所决定的，三者之间具有建设性和破坏性干涉效应，或增强或消除，三位一体则智能强，三位多体则智能弱。如何调谐共频则是人机融合智能的关键。当代人工智能由最初的完全人工编译的机器自动化发展到了人工预编译的机器学习，接下来的发展可能是通过人机融合智能的方法来实现机器认知，最终实现机器觉醒。

在智能领域中，对自动化、智能化概念的厘清非常重要，自动化是确定性的输入，可编程的处理，确定性的输出；人工智能是部分确定性的输入，可编程的处理，部分确定性的输出；智能是不确定性的输入，部分可编程的处理，不确定性的输出。人工智能（含自动化）与智能的区别是：一个是功能一个是能力。很多人期望得到的往往是能力，而不是功能，即通过人工智能功能实现智能能力，这就是期望与现实的矛盾之所在，同时也是人们失望之所在：把功能错看成了能力。智能需要实现的是一种的合成：功能+能力（简称功能力）。机器功能逻辑的基础是映射关系，而人类直觉能力的基础则是漫射、散射、影射，其中人类的想象力、创造力是一种情理融合之能力，也是“智能”的边界。所以仅开发出高性能智能产品或系统仍不可能提高体系的组织力和创造力，该模型必须集成到运行技术系统、组织流程和人员运行流程中才能发挥其威力和效力。

智能化的瓶颈和关键问题：不是单纯的快、单纯的准、而是对，例如单纯机器计算的越精细、越准确、越快速，危险性越大，因为博弈对方可以隐真示假、造势欺骗、以真乱假，所以有专家参与的人机融合/混合智能相对显得更重要、更迫切、更有效。人机混合常常是指人+机（侧重事实性数理物理结合，价值性结合较少）；人机融合往往是指人*机（既包括事实，也涉及价值，既有数理物理交互，也有心理伦理交流）。对于军事界而言，大多数认为：人必须在人-装备-环境系统中并掌控着该系统的关键使用（如许多科学家支持致命性自主武器系统（LAWS）宣言，以反对脱离人类控制的自主武器系统开发），这就要求两点，首先是必须可靠的人在系统中，而不能是不可靠的人在系统中（如美两任在防疫系统中的leader）；其次，要求人、机不能是平等的关系，可靠的人必须要掌控关键作用。所以这个角度看，对博弈智能而言，“人机混合”要比“人机融合”一词要准确一些（可以保证人主机辅关系一致性）。

如何实现人的算计（经验）与机的计算（模型）融合后的计算计系统呢？东方思想里的“易”就是一个典型的计算计（计算+算计）系统，有算有计，有性有量，有显有隐，计算交融，情理相依。其中的“与或非”逻辑既有人经验的、也有物（机）数据的，即人价值性的“与或非”+机事实性的“与或非”，人机融合智能及深度态势感知的任务之一就是要打开与、或、非门的狭隘，比如大与、小与，大或、小或，大非、小非……大是（being）、大应（should）、小是（being）、小应（should）。人的经验性概率与机器的事实性概率不同，它是一种价值性概率，可以穿透非家族相似性的壁垒，用其它领域的成败得失结果影响当前领域的态势感知SA，比如同情、共感、同理心、信任等。

凡事有好就有弊，手机不例外，智能也不例外。在人机环境系统动态交互（产生智能）时，由于时间、空间、对象、属性、关系、条件、规则、情绪、状态、趋势、感知等的变化，智能中的方式、方法、方案、手段、工具都会做适当的调整和重新组合，正可谓：时变法亦变。智能需要解决的常常是面对的真实问题，比如安全威胁、高效处理、准确预测等等。智能包含着过去的经验和数据，但不会仅仅依赖这些过去，它包还含着未来对此时的影响，比如期望的反馈。一般而言，不能随机应变的智能应该不是真智能。人机交互、人机混合、人机融合智能……中人工智能AI可以帮助人，也可以阻碍人，还可以毁掉人，比如过度依赖AI易造成失去人性中的自信、果敢和勇气等，做这些工作或申请项目时，望不要光看人机融合中计算计系统好的一面，还希望管理者、评审者也能客观地看到其不好的一面，在不少情境任务下，不好的概率可能更高一些！

四、主流人工智能学科仍无法理解人机融合智能领域

AI追求数据化、确定性和理性的解释，假定任何问题都有标准答案，把每个决策简单地变成约束条件下求解，变成数据计算。但是，真实世界里具有大量的不确定性，没有标准答案，需要人的想象力和算计，不是循规蹈矩。康德说：事物的特性往往与观察者有关，这与量子力学思想相通。

研究一个事物如果不从未来看它，往往会被它迷惑。计算是算计的产物，计算常是算计的简化版，不能体现出算计中主动、辩证、矛盾的价值。计算可以处理关键场景的特征函数，但较难解决基本场景的对应规则，更难对付任意场景的统计概率，可惜这些还仅仅只是场景，尚远未涉及情境和意识……

智能仅是解决问题的一种工具手段，若不与日常生活中的风俗习惯、伦理道德中的仁义礼智信勇、法律中的边界规则统计概率等诸多方面相结合，就很容易泛滥成灾而不可控制。真实的智能不是万能，它不但涉及事实性的真假问题，还应该包括价值性的是非问题，更与责任性的大小轻重密切相关，所以，严格意义上讲，军事智能是许多领域的一连串组合应用。

对于人、机而言，虽然都是将一个问题拆成几个子问题，分别求解这些子问题，即可推断出大问题的解，但是人的动态规划与机器的动态规划却是不同的：有经验的人可以游刃有余地将一个复杂性大问题拆成事实、价值、责任等不同性质的小问题来求解，即用事实、价值、责任的不同化法进行大事化小，小事化了，还可以避免各种鼠目寸光和画地为牢，而目前的机器对此异质合取化解问题依然望尘莫及，人工智能只会对比（不是类比），也许这也是人类智能的又一个瓶颈和难点：如何有效地处理异质性的非形式化问题。计算是事实性推理关系，低阶的算计则是价值性推理关系，高阶的算计更是事实价值混合/融合的推理关系，计算与算计是不同的因果关系。人类的“既…又…”关系往往不是“并”的计算关系，与具体态势算计有关。是非不同于对错，也不同于真假和01，孟子曰：是非之心，智也……

美国诺贝尔奖得主卡内曼在《快与慢》一书中将人类的本能意识快决策称为系统一，将人类的理性逻辑慢决策称为系统二，并考察了系统一与系统二之间的区别。经过我们进一步研究，人机环境系统的深度态势感知中应该还有决策系统三：人类理性与感性结合的不快不慢的right决策系统，即人机融合的计算计决策系统。

文章标题：美国陆军迅速加快开发武装、人工智能驱动的机器人与士兵作战

发布时间：2021年12月21日

类型：媒体新闻

发布机构：Warrior Maven

内容简介：根据美国国防部的原则，只有人类才能做出决定有关致命武力的使用。原因一方面在于道德和战术，因为机器无法适当理解很多与致命武力决策相关的主观变量。人类推理、直觉、感觉和意图的独特属性不是数学驱动的机器人能够复制的。

然而，人工智能机器可以以指数级的速度执行计算、程序功能，进行数据分析和信息组织任务。

计算-算计、情境意识、态势感知就像一颗大树，上面是显性的枝叶茂盛，下面是隐性的盘根错节。在显性的计算里，理性的逻辑一般要求自洽一致，不能变化，而在隐性的算计中，感性的力量却可以揉面式把理性逻辑变得柔软起来，甚至可以无厘头地自相矛盾，但仍虚实弥聚有度，盾矛相济有序。

智能的本质不是数据、算法、算力，而是在此基础上如何创造修正、弥聚使用和矛盾协调它们。

未来，不是AI哦，应该是人机环境系统智能