王燕、杜燕波 军事文摘 2023-01-03 18:07 发表于北京
刘伟教授在其著作《人机融合：超越人工智能》中得出这样一个基本结论：未来智能化发展方向应当是“人—机—环境系统在高速运行的同时保持协调发展”。这里，“人”涉及管理者、设计者、制造者、营销者、消费者、维护者等；“机”不但指智能装备中的软件、硬件，还涉及产业链中各环节之间衔接的机制机理；“环境”则涉及诸多领域的“政用产学研商”合作协同环境。这个判断既考虑到西方的理性与科学，又考虑到东方的天道与人伦，还关照到人机之间的互补与匹配。具体到军事智能化，自然也需要遵循这个“法则”，否则不仅人工智能的功用不能得到有效发挥，人在人工智能的快速发展面前也会进退失据，最终影响智能化军事变革。本文借鉴这一思想，专论智能化军事变革中人机环协调发展问题。
客观世界、人类智慧与
人工智能之间的基本关系
人工智能是人类智慧的结晶，尽管冠以“智能”的标签，但是无论发展到什么程度，最多只是人所制造的一种高级工具。例如，各种人工智能算法、设备乃至更高级的机器人，都是人创造出来的。人的格局、眼界、认识与手段从根本上决定了人工智能的发展方向与功用大小。换言之，数据与算法驱动只是人工智能的表象，人类智慧才是人工智能的本源。机器是没有意识的，所谓机器的“意识”是人赋予的，机器的功能也是人赋予的。例如，人类工程师为“阿尔法狗”“阿尔法狗斗”项目选取的应用场景十分狭窄，一旦脱离下棋、空中格斗这样规定性很强的应用场景，那些人工智能算法便马上失去用武之地。人却不同，人是拥有灵魂和智商的，具有非常强的适应和应变能力。究其实质，无论是“阿尔法狗”“阿尔法狗斗”还是其他人工智能项目，都是按照人类工程师的设计、在电能或化学能的驱动下，按照一定逻辑运行的，因而它所有的功能与禀赋都逃不出人类的设定。即使是当前作为人工智能核心支柱之一的机器学习（ML）算法，不也是人类设计出来的一种神经网络算法么？这种算法如何适用于具体的应用场景，说到底还在于人类工程师的设计；设计水平的高低，直接决定了人工智能的功用和效率。那么，人类智慧又来源于哪儿呢？这其实涉及认识论问题。在古代，中、西方诸多哲人思考过这个抽象的问题，并留下许多经典的精彩论述。但笔者认为，用科学的马克思主义唯物论与世界观来解释再恰当不过了。毛主席曾经在他唯一的两本哲学著作——《矛盾论》《实践论》中对马克思主义认识论进行过精辟阐述。按照毛主席宏阔的历史视野、精深的辩证思维和大道至简的表述方式，人存在的意义无非就是两部分：认识世界和改造世界。很显然，在此语境下，“认识”是广义上的，不仅包括狭义上的理解、掌握，还包括通向实践的决策、判断，因而这里将正确认识暂称为“智慧”。根据马克思主义认识论，实践是认识的唯一来源，且“实践是检验真理的唯一标准。”换言之，人的智慧来源于实践，是人们通过改造客观世界获得的直接经验与间接经验的总和。当然，这种直接经验或间接经验是否正确、能否运用于指导实践，还取决于人们能否正确运用唯物主义辩证法，这就是所谓的“矛盾论”，否则便会犯或左或右的、教条主义或者本本主义的错误。总之，是“矛盾论”和“实践论”决定了“认识论”，即：深入实践和掌握唯物主义辩证法是拥有正确认识（智慧）的两个必要前提。
人工智能、人类智慧与客观世界之间的关系表现为逐层制约的子母集关系
上图大致刻画出人工智能、人类智慧与客观世界三者之间的生发与制约关系：人工智能来源于人类智慧，人类智慧生发于客观世界；人工智能是人类智慧的“算法”表达，而人类智慧只有在改造客观世界的实践过程中才能够形成和不断升华。由于算法本身的“不完备性”，人工智能无法超越人类智慧；由于人实践和认识世界的局限性，人类智慧又很难洞悉宇宙的全部奥秘。这决定着，三者之间表现为逐层制约的子母集关系。尽管人工智能生发自并从属于人类智慧，但是人工智能已经在许多领域表现出令人侧目的前景。当人工智能驾驶的战机在空中格斗中击败美空军资深飞行员（“阿尔法狗斗”项目），当基于自然语言识别和自动驾驶技术的点菜送菜机器人开始取代餐厅服务员，当人类情报分析人员面对海量情报信息感到焦头烂额而人工智能却可以驾轻就熟，当人工智能已经越来越多地渗透到社会经济生活的方方面面并显示出强大能力时，人们无法忽视人工智能的存在。与此同时，人类又没有必要因为人工智能的强大而妄自菲薄，仿佛一跨入人工智能时代人便一无是处一样。所谓“不偏不倚谓之中”，搞清楚人类智慧（人）与人工智能（机）之间的本质区别，是在实践中合理、正确运用人工智能的首要前提。笔者认为，除上述嵌套、制约关系外，两者之间还有如下三个根本区别：人类是感情动物，是有价值取向的。孟子讲，“智者，是非之心也。”意思是，智慧就是明是非、懂伦理。作为中华文化内核的“忠孝廉耻勇、仁义礼智信、温良恭俭让”，标定了传统中国人应遵循的基本价值规范。“社会主义核心价值观”，则可以理解为当代中国人应遵循的基本价值规范。外国人也一样，基本的好恶与情感无不彰显他们的价值属性。相比而言，人工智能只是一种无感性、无理性的工具，它没有爱恨情仇，没有喜怒哀乐，不会感恩、忏悔和反思。正如美军在阿富汗战场上的MQ-9“猎人”察打一体无人机，当它瞄准手无寸铁的平民发射弹药时，它不会有一丝怜悯之情，它只是在按照人为设定的算法程序机械地执行人的指令；它甚至不如冷血动物，因为它完全是一种无生命无意识无情感的死的物体。客观地讲，时下热炒的“人工智能”（包括所谓的“计算智能”“感知智能”“认知智能”等）可视为对人脑某些功能的模拟、延伸与加强，但它没有只有人类才有的情感、思维和灵魂，因而不算真正的“智能”。
人工智能、人类智慧与客观世界之间的关系
人工智能的本质是算法，算法的本质是数学，数学则是对客观复杂世界的结构化、逻辑化描述。但是作为“万物之灵长”，人的智能远非结构化、逻辑化可以描述，而是表现出极大的无序性、跃变性与不可捉摸性。这就是数学的“不完备性”，它同时也决定了以模仿人的智能为核心目标的人工智能的局限性。这个问题其实不难理解，可以解释为三层衰减：第一层，人的经验和认知内涵十分丰富，这些经验和认知又很难用语言表达出来，正所谓“只可意会，不可言传”；第二层，人类经验和认知需要用计算机能够识别的语言表达出来，其中涉及人类语言向计算机语言的转化，这个转化过程一定不会是充分的，必然存在衰减，正如人们没办法把一本小说或一个事物用数学公式表达出来一样；第三层，人们在用数学公式描述事物联系的过程中，试图把复杂的事物抽象表述为一串简单的数学公式，但是这种抽象过程是有风险的，可能将一些潜在的、有用的因素排除在外。
“阿尔法狗斗”人工智能空战算法对抗赛
许多人听过这样一个故事：第一次世界大战期间，德军一位作战参谋通过望远镜镜头中出现的一只波斯猫，判定法军高级指挥所的位置，进而引导火力展开猛烈炮击，法军指挥所内的高级指挥官瞬间殒命。这个战例表明：人的思维是发散式、跳跃式的，善于由一种事物联想到其他事物、由当下联想到过去和未来，善于对掌握的情况进行综合分析判断。这是古今中外战场上将帅能力水平的基本分野，同时也是战争成为一门“艺术”（而非刻板的“技术”）的根本原因。从另一个视角看，由于考虑诸多领域、诸多方面各种问题，人们追求的往往是“局面最优”，或曰“势”，而非某个单纯的指标值。如同打太极一样，中国文化更讲究“运势”。相比而言，人工智能在算法的指引下是高度聚敛的，它固然可以采集大量数据，但最终归宿是通过计算逐渐收敛，寻求一个或多个最优解，因此也就没有人那种“统观全局”的本领。如上所述，客观世界、人类智慧和人工智能之间存在一定内在规约。理解这种内在规约，就可以破除坊间那种将人工智能吹得神乎其神的迷信色彩，进而有望在思想意识和工作实践中理顺三者间的内在关系。很显然，理想状态应当是：在深入实践改造客观世界的基础上，不断丰富与增强人类智慧，同时用人类智慧引导和规制人工智能的发展及运用。当然，必须认识到的是，人工智能已经成为人类社会、经济与军事活动中一个至为重要的因变量，它对客观世界和人类智慧的影响是人们所无法忽视的。对于客观世界，人工智能已经成为其中的一部分，因而学习、掌握与运用人工智能理应上升为人们改造世界的重点内容。对于人类智慧，人工智能（特别是计算智能、感知智能、认知智能）在某些狭窄的功能领域已经远远超出人的生理极限，可以帮助人们做许多以往想都不敢想、做也做不到的事情，扮演人类智慧“助力器”“赋能器”“放大器”的重要角色。然而，人工智能带给人类智慧的并非全是利好。目前看，至少有两点危险倾向值得警觉：一方面，随着人工智能的逐步成熟和普及运用，越来越多“无用的人”将被取代。“精英们”坐在办公室电脑屏幕前，便可完成以前许多人耗费大量时间才能完成的工作。然而，这些“精英”只是在点击鼠标或敲击键盘，他们可能对人工智能背后的算法及内在逻辑并不熟悉；而后台编写人工智能算法软件的工程师，大概率又由于从事实践不足而对问题本身理解并不深刻。这就意味着，许多人正在脱离当代社会经济与军事实践——对外，少了深入客观世界的实践，因为计算机和人工智能可以代替人干许多以前只有人才能完成的事情；对内，又不易和人工智能世界打交道，因为人工智能的底层逻辑令人费解、人工智能算法或软件又是一般人很难打开的“黑箱”。根据毛主席的《实践论》，这显然是一个不好的倾向。缺少实践，认识便上不去，人类的智慧光芒就会衰微。另一方面，人工智能在某些狭窄的功能领域（如计算智能、感知智能、认知智能）具有超过人类的“特异功能”，它们正在以机器速度改变着客观世界不同事物之间的联结方式和频度。再加上其他领域科学技术的极大发展，人类社会及现代军事系统正在变得愈发庞大、复杂，远远超过单个个体的理解程度和反应速度。特别是军事领域，由于其本身固有的激烈对抗性，这种状况可能更为恶劣。将来一旦开战，哪怕是一点“不对称性”都可能瞬间迅速放大并呈现出来——在不考虑政治约束的条件下，一方对另一方的碾压式、摧枯拉朽式的胜利几乎是一定的。这种情况对任何一支现代军队来说，都需要高度警惕并极力避免。
人机环结合过程中，一定要坚持以人为主
有人可能会说，这是不是有些危言耸听呢？我们可以通过数字化转型管窥一斑，由于智能化建立在高度数字化基础之上，且两者具有相似的软性特征，这样的类比不无道理。当前来看，数字化技术本身已经非常成熟，但是这些先进技术背后隐藏的巨大潜能还远未发挥出来。有些项目尽管冠以“数字化”的名头，但是其真正的功用发挥还远远达不到预期。换言之，当前实际工作中许多系统亟待数字化技术加以改造，但是这些系统又很难充分利用这些成熟的数字化技术。这种状况正如罗振宇在2022年《时间的朋友》演讲中所讲，“是答案等问题，而非问题等答案。”因此说，数字化、智能化技术当然需要充分发展，但只关注技术是远远不够的。智能化（包括数字化）军事变革的正确方向应当是：坚持人机环协调发展。要把眼光放长、把视野放宽，在军民深度融合的国家大盘上谋划数字化智能化转型发展，积极汲取地方优秀企业的先进技术、理念和经验做法。需要补充的是：人机环结合过程中，一定要坚持以人为主。换言之，要用人的理性规约人工智能的发展，同时让人工智能在人的理性框架下最大限度发挥内在潜能。如果人的管理缺位，人工智能在实践中便会陷入低效率内卷。更有甚者，由于人工智能在某些具体方面具有超越人类的“特异功能”，一旦脱离人的掌控，反而可能给人类带来反噬。这必然对人类智慧提出更高要求。或者说，如何驾驭那些不完备的、本身有缺陷但是在某些方面有超强能力的人工智能，对人的智慧构成新的更大的挑战。在人工智能兴盛的时代，人反而容易成为体系短板，而非技术。如何实现大写的“人”，可能才是体系建设之关键。所以我们应该如何增强人们驾驭、规驯人工智能的智慧呢？如前所述，最重要的还是要秉持毛泽东思想的两大精髓——《实践论》和《矛盾论》，在深入实践改造客观世界的过程中积累丰富经验、淬炼智慧品质，同时要善于用马克思主义辩证法这个强大的思维 武器。唯有如此，人才能成为智能化时代的“主人”，而不是被智能化所湮没。本文刊于2022年12期《军事文摘》杂志，作者：王燕、杜燕波
https://blog.sciencenet.cn/blog-40841-1370390.html
上一篇：
[转载]厘清人工智能在智能化军事变革中的边界下一篇：
人机混合智能的可行架构：计算-算计模型
