【编者按：自主性包括个体自主性和群体自主性两大部分，未来的军事智能化将会是一种以人为主以机为辅的人机混合自主系统。历史因果链只在短时段有意义，时段一长，意义就会递减，美国思想家悉尼·胡克有句名言：原因的原因的原因，就不是原因。自主链也是如此，自主性简单地说就是“应该”，侧重于价值性的问题。时段一长，“应该”就会递减，应该的应该的应该，就不是应该……】

目 录

一、自主性的理论起源

二、自主性的理论表述与模型

（一）自主性的含义

（二）自主系统参考框架的构建

三、自主性的发展现状

（一）感知

（二）规划

（三）学习

（四）人-机交互

（五）自然语言理解

（六）多智能体协调

四、自主性问题的思考

（一）人的决策与机器决策

（二）个体态势感知与群体共享态势感知

（三）如何构建人机信任度

五、自主系统的未来发展与投入方向

摘要

自主性是无人系统的典型特征和发展趋势，也是自动化的高级阶段，“自主”与传统“自动的区别”：“自动”是基于数据驱动的，无人系统按照预定程序执行任务，没有环境感知与自主决策能力；“自主”是基于信息甚至知识驱动的，无人系统根据任务需求自主完成“感知—判断—决策—执行”的动态过程，并能够应对意外情形，、新的任务并容忍一定程度的失败。无人系统自主性发展的动因归纳为：降低人力资源需求，减轻人的负担；减少对高带宽数据链的依赖，提高自主性完成任务能力；缩短任务回路周期，提升作战效能。实现自主性的挑战是指目标的自主获取/跟踪/选择/攻击，自主的可预测性和可靠性，以及故障/意外和易受攻击性等。因此，无人系统在很长的使用过程中，仍是“平台无人，系统有人”。即使将来无人系统自主能力达到或媲美人的水平，考虑在“自主武器系统”的争议和相关政策法规，自主无人系统也是在人的监督下执行任务，混合主动条件下的监督控制是实现自主性的必由之路。 

自主性的历史发展

社会的需要是自动化技术发展的动力。自动化技术是紧密围绕着生产、军事设备的控制以及航空航天工业的需要而形成和发展起来的。

1788年，J.瓦特为了解决工业生产中提出的蒸汽机的速度控制问题，把离心式调速器与蒸汽机的阀门连接起来，构成蒸汽机转速调节系统，使蒸汽机变为既安全又实用的动力装置。瓦特的这项发明开创了自动调节装置的研究和应用。在解决随之出现的自动调节装置的稳定性的过程中，数学家提出了判定系统稳定性的判据，积累了设计和使用自动调节器的经验。

20世纪40年代是自动化技术和理论形成的关键时期，一批科学家为了解决军事上提出的火炮控制、鱼雷导航、飞机导航等技术问题，逐步形成了以分析和设计单变量控制系统为主要内容的经典控制理论与方法。机械、电气和电子技术的发展为生产自动化提供了技术手段。1946年，美国福特公司的机械工程师D.S.哈德首先提出用自动化一词来描述生产过程的自动操作。1947年建立第一个生产自动化研究部门。1952年J.迪博尔德第一本以自动化命名的《自动化》一书出版,他认为“自动化是分析、组织和控制生产过程的手段”。实际上,自动化是将自动控制用于生产过程的结果。50年代以后，自动控制作为提高生产率的一种重要手段开始推广应用。它在机械制造中的应用形成了机械制造自动化；在石油、化工、冶金等连续生产过程中应用，对大规模的生产设备进行控制和管理，形成了过程自动化。电子计算机的推广和应用，使自动控制与信息处理相结合，出现了业务管理自动化。

50年代末到60年代初，大量的工程实践，尤其是航天技术的发展，涉及大量的多输入多输出系统的最优控制问题，用经典的控制理论已难于解决，于是产生了以极大值原理、动态规划和状态空间法等为核心的现代控制理论。现代控制理论提供了满足发射第一颗人造卫星的控制手段，保证了其后的若干空间计划（如导弹的制导、航天器的控制）的实施。控制工作者从过去那种只依据传递函数来考虑控制系统的输入输出关系，过渡到用状态空间法来考虑系统内部结构，是控制工作者对控制系统规律认识的一个飞跃。
　　60年代中期以后，现代控制理论在自动化中的应用，特别是在航空航天领域的应用。产生一些新的控制方法和结构,如自适应和随机控制、系统辨识、微分对策、分布参数系统等。与此同时，模式识别和人工智能也发展起来，出现了智能机器人和专家系统。现代控制理论和电子计算机在工业生产中的应用，使生产过程控制和管理向综合最优化发展。
　　70年代中期，自动化的应用开始面向大规模、复杂的系统，如大型电力系统、交通运输系统、钢铁联合企业、国民经济系统等，它不仅要求对现有系统进行最优控制和管理，而且还要对未来系统进行最优筹划和设计，运用现代控制理论方法已不能取得应有的成效，于是出现了大系统理论与方法。80年代初，随着计算机网络的迅速发展，管理自动化取得较大进步，出现了管理信息系统、办公自动化、决策支持系统。

随着时代的发展，人类开始综合利用传感技术、通信技术、计算机、系统控制和人工智能等新技术和新方法来解决所面临的问题。自动化已经不能满足人们的需求。为了进一步降低人力资源需求，减轻人的负担；减少对高带宽数据链的依赖，缩短任务回路周期，提高自主完成任务的能力，无人系统的自主性需求日益强烈。自主性是无人系统的典型特征和发展趋势，也是自动化发展的高级阶段。 

一、自主性的理论起源

自主性来源于将决策委派给获准实体，由该实体在规定的界限内采取行动。自主性和自动化之间的一个明显的区别在于：由不允许出现任何偏差的法定规则管理的系统属于自动化系统，而不是自主系统；自主系统必须能够独立地制定、选择不同的行动过程，以根据对现实世界、系统本身，以及态势的知识和理解实现有关目标。

自主系统主要来源于人工智能，人工智能是计算机系统在有人的智能参与的条件下执行任务的能力。由于人工智能的不断发展，人现在可以将过去机器无法执行的任务委派给机器。

智能系统的目的是将人工智能应用于特殊领域或解决特殊问题。具体地说，系统通过编程或者训练之后，在定义的知识基础的界限内运转。自主功能是从系统层面而非结构层面上来讲的。我们主要考虑了两类智能系统：应用静态自主性的系统和应用动态自主性的系统。从广义上看，采用静态自主性的系统事实上是通过软件来运转，包括规划和专业咨询系统；采用动态自主性的系统则会进入物质世界，其中包括机器人和自主平台。

机器人技术带来了新型传感器和致动器，同时提升了智能系统的移动性。早期机器人一般属于自动化机器人；随着近年来人工智能的发展，自主功能逐渐得到了提升。

二、自主性的理论表述与模型

（一）自主性的含义

“自主”是基于信息甚至知识驱动的，无人系统根据任务需求，自主完成“感知—判断—决策—行动”的动态过程，并能够应对意外情形、任务，容忍一定的程度的失败。

自主性通过数据搜集、数据分析、网络搜索、建议引擎、预测等应用逐渐改变了整个世界。考虑到人的能力有限，无法迅速处理大量的数据，我们可以利用自主系统来发现趋势和分析模式。

在更复杂的条件、环境因素、和更为多样的任务或行动中，使用更多的传感器和更为复杂的软件，提供更高层次的自主性。自主性的特征通常体现在系统独立完成任务目标的程度。也就是说自主系统要在极其不确定的条件下，能够排除外界干扰，即使在没有通信或通信不畅的情况下，仍能弥补系统故障所带来的问题，并确保系统长时间良好运行。

（二）自主系统参考框架的构建

在自主系统设计过程中，花费了大量的精力，决定究竟是由计算机还是操作员来发挥具体的认知功能，这些决策反映了不同性能因素在系统侧面上的权衡，例如在对面期望想定时，获取计算层面上的有效且最优的解，但是在想定发生变化或出现新情况时，方案可能失败，增加人力资源也是高度敏感的。在许多情况下，如果遵照这些具有绝对性的设计决策，则不需要检查对系统终端用户或整体彩板、维护或人力成本所产生的影响。

在一些项目实践过程中，发现通过划分自主等级对自主设计的帮助并不明显，这些项目在计算机层面花费了太多精力，并没有专注在为实现能力与效果的最大化所需的计算机与操作员或监督员的协作关系上，也因此这些项目的成果并不明显。

无论是在认知科学层面还是依据对实际练习的观察结果，这些分类系统都具有误导性。在认知层面上，当许多功能由计算机完成，只有高级监视或监督由操作员完成时，事实上，所有决策都在人的控制之下，这与系统自主是连续统一的。在某些情况下，为了表明系统具备某一特定的能力，可能需要同时执行多项功能，其中有些功能需要人在回路，也有一些功能可以同时委派给计算机。因此在一项任务的的任意阶段，系统都有可能同时处于两个或两个以上不相关的水平上。在现实过程中，由于有一部分人将“自主等级”当作开发路线，因此关注的不是人—机系统，而仅仅是机器。

所以自主系统模型的主要有以下要点：侧重于为实现特定能力所需的人—机认知功能与重分配决策；分配方式随着任务的不同阶段和不同认知层次而不同；在设计可视自主能力时，必须进行高级系统权衡。

（1）认知层次视图。随着组件智能体的自主等级不断提高，功能不断增强，展开联合行动是对各层次、各功能进行协调也变得越来越重要。

认知层次视图主要考虑自主技术支持规范“用户”的控制范围，并将控制范围延伸到其他空间，以提高适应力的目的。平台动作、传感器操作、通信和状态监控由平台或传感器操作员控制。而部门或编队领导则负责任务规划、任务重规划以及多智能体平台的协作。任务指挥官或执行官的控制范围包括想定评估与理解、想定规划与决策，以及意外事件的管理。此外在操作员内部需要通信和协调，各项认知功能既可以在计算机与操作员或监督员中间进行分配也可以由计算机和操作员和监督员共同承担。

（2）任务动态视图。在任务的不同阶段，按不同的方式应用自主技术。该视图还反映了在发生新的事件、出现新的争议或机会时，不同智能体在各个任务阶段、各个功能以及各层次之间实现行动同步化的方式。

根据任务动态视图，在执行基于环境复杂度与必要响应时间的任务期间，认知功能的分配可能会发生变化。提高自主等级有利于任务期间按照要求调整计划，如出现心得目标、改变任务目标、额外信息、天气条件恶化或平台性能等级降低等。初始阶段和结束阶段也为利用自主技术减少人力和提高效率提供了可能。

（3）复杂系统权衡空间视图。有关自主技术应用地点与方式的设计选项可以改变大型系统进行多项性能权衡的方式。这存在一定的风险，因为如果自主技术只改善一个领域，那么在综合系统性能中的其他领域则有可能会受到负面影响。

复杂系统权衡空间视图按照以下五个方面进行恰当的权衡

（1）适应度。在系统对新任务或意外情况的自适应能力和性能最优化之间进行权衡

（2）计划。在系统有效地跟踪现行计划于全面检测某个计划不再有效而需要改变的需求之间进行权衡

（3）影响力。在集中式与分布式之间进行权衡，使远程或当地获取的信息在不受潜在因素或不明因素的影响的前提下具有可视性

（4）视角。在局部性和全局性之间进行权衡，掌握态势，使在一个单元中的集中行动与多个单元间的干扰和协调之间相适，以取得更好的效果

（5）责任。在长期目标与短期目标之间进行权衡，在不表上达成统一

复杂系统权衡空间视图

三、自主性的发展现状

（一）感知

感知能力是实现自主的关键要素，只有通过感知，无人平台才可以达到目标区域、实现任务目标。例如，平台收集传感器数据、应用动能武器和对抗简易爆炸装置等都离不开感知能力。

根据感知能力的目的，我们将无人系统的感知分为四大类，即导航感知、任务感知、系统健康感知与操作感知。在某些情况下，为了完成某项任务，这四个类别经常存在交叉现象。

在启动制导、导航和控制功能时，需要通过导航感知来支持路径规划和动态重规划，以实现多智能体通信与协调。一般情况下，导航是指平台朝目标方向的全过程，这与平台运动控制相对（如保持竖直位置或为足式机器人选择步法）。通过提高导航感知能力，可以提高平台的安全性（因为人的反应速度通常不够快，也无法客服网络的滞后性，因而无法保证导航的可靠性和安全性），同时减少操作平台或驾驶平台时的认知工作负荷，尽管这还不足以减少人力需求量。通过选择机载感知处理方式，可以提高凭条的反应速度，帮助平台对抗网络攻击或网络破坏。

任务规划、想定规划、评估与理解、多智能体通信与协调和态势感知都需要任务感知的支持。提高任务感知的自主感知能力，可以带来四大好处：

（1）机器人能够秘密的执行任务，例如，在不需要全程网络连接的情况下跟踪某个活动，从而减少网络受到攻击的可能性，减少操作员的认知功能负荷。

（2）通过主动识别，即使是目标提示或给定目标划分优先级别，可以减少数据分析员的需求量。

（3）通过机载确认或给部分拟发送数据划分优先级别，可以降低网络需求，例如，“全球鹰”需要大量的带宽；

（4）可将任务感知与导航结合，例如只会平台在空中盘旋、静止、转圈等。

平台健康感知主要应用于故障检测与平台健康管理，但是在进行故障预测、重规划与意外管理实，也需要应用平台健康感知功能。加强自主健康监控至少有三大好处:

（1）当自主故障检测、确认和修复的速度可能高于手动检测、确认和修复的速度时，使得故障弱化，并有助于修复故障。

（2）提高用户对系统的信任度，尤其是系统不按照预期运行，或在任务的关键阶段突然出现故障；

（3）进一步减少操作员的认知工作负荷，不再需要特别安排一位操作员全程监视诊断显示。

随着导航地点从室外转向室内，任务重点也从远程感知转移到行程行动上，操作感知变得越来越重要。利用地面机器人将门打开是一项艰巨的任务。出此之外，需要利用操作感知来完成的其他任务包括拆除简易爆炸装置、车辆检查（在此过程中，需要移动叹词、包裹等物件），以及物流与材料处理等。提高自主操作感知有两大好处：

（1）它可以减少完成操作任务所需的时间及其工作负荷

（2）减少禅语任务的机器人数量，因为在没有提高自主操控感知能力之前通常需要安排第二个机器人来协助操作员随时监控操作器与被操作物体之间的关系。

（二）规划

规划是指能将当前状态改为预期状态的行动序列或偏序的计算过程。在尽可能少用资源的前提下，为实现任务目标而行动的过程。在这一过程中，一共有两个关键点：（1）描述行动和环境条件、设定目标或资源最优化标准；（2）在遵照硬性条件（例如，平台在地形和速度等方面的条件限制），优化软性限制条件（例如，最大程度地减少完成任务所需的时间或人力）的前提下，提供计算行动徐柳和分配行动资源的算法。

（三）学习

机器学习现已成为开发智能自主系统最有效的办法之一。大体而言，从数据中自主获取信息比手动知识工程的效率更高，计算机视觉最新技术系统、机器人技术、自然语言理解和规划主要依赖于训练数据自主学习。通过大量具体数据中寻找可靠的模式，一般可以使自主系统的精确性和鲁棒性高于手动软件工程，还可以是系统根据实际运行经验自动地适应新环境。

（四）人--机交互

人--机交互是一个相对而言较新的跨学科领域，主要解决人与机器人、计算机或工具如何协作的问题。他是人—系统交互领域得一个分支领域，侧重于人与机器人之间的双向的认知交互关系，在这个人机交互关系当中，由机器人承担智能体的角色，在远离用户、计算机或自动驾驶仪的位置上运行，在技术上有明显优势。

人—机交互涵盖了无人系统、人因学、心理学、认知科学、通信、人—计算机交互、计算机支持工作组以及社会学等多个领域。这种庞大的多学科交叉状态明显不同于传统工程设计、接口开发或生物工程学。

研究人—机系统与平台之间的关系，有助于改进系统性能，减少平台操作成本和设计成本，提高现有系统对新环境的自适应能力，并加快其推进行程。通过改善人与无人平台协作关系，可以提高系统执行任务的速度，同时降低失误率；而如果在改善人与平台协作关系的同时，改进通信接口，提高应用程序的可用性和可靠性，那么还可以减少系统操作人员的需求量，降低在缺乏人—机交互支持的情况下，设计不同系统显示或重新设计无人系统的成本。如果能够较好的理解人、无人平台以及自主性在特殊形势下各自的作用和局限性，那么将有助于设计出不仅能监控超越行为，还能预测新需求的系统，从而提高系统的自适应能力。通过提高人--机交互水平，不仅可以提高无人系统的任务执行能力，还可以提高人类对系统的信任度。此外利用先进的人—机交互人类学方法，可以在无人系统使用过程中捕捉创新机会，从而加快能力，新用途和最优的推行。

人在回路上监督：

    1、允许在设计的约束条件以外行动（行动2）

    2、允许在作战情境外行动（行动3）

    3、有效利用动态变化的机遇

（五）自然语言理解

与自然语言处理密切相关的是能利用英语等普通语言与人类进行交流的计算系统的发展。自动语音识别是将语音信号转化为文本信息的过程，而自然语言理解则是将文本信息转化为计算机能理解的正式表述的过程。人--机交互收自然语言影响。如果给无人系统发出口都指令精确，那么委派的内容将会简单化，委派的速度也会随之加快。然而自然语言是一门独立的研究学科。

人像自主系统发出指令是，自然语言是最常态、最自然的一种方式。人类一般利用自然语言处理来为自助系统定制多样化的高级目标和策略，而不是直接进行具体的遥操作。但是由于自然语言处理本身具有一定的不确定性，因此在自然语言处理的理解上存在一些困难。在理解自然语言时，必须结合当时的语境来判断语言的真实意义。构建一个能理解英文指令和人类语言的自主系统将是一项高技术难度的挑战。为解决这个问题，我们经常利用传统图形用户界面来与计算机系统沟通。然而大多数情况下（例如，当用户不方便用手进行操作时），语言仍然是最理想的沟通方式。

（六）多智能体协调

在执行跨机器人或软件智能体或自然人任务时，我们常常会提到多智能体协调这一术语。每个智能体都具有一定的自主性。多个智能体之间可以通过两种方式进行协调，即分布式协调和集中式协调。分布式协调是指多个智能体直接进行互动或交涉；集中式协调是指在规划器的指导下统一进行协调。无论智能体采用哪种方式进行协调，我们都必须确保智能体不仅能够同步化，还能适应环境或任务的动态变化。多智能体同步化经常被理解为多智能系统之间的主动协同（如机器人足球赛）或非主动协同（如蚂蚁觅食行为）。虽然协作（人--机协作）与协同之间有一定的联系，但它指的是截然不同的主题，它假定每个智能体都对其他智能体的能力有一定的认知理解，能对目标完成进度进行监控，并且能像人类一样进行编队。因此，在研究过程中，多智能体协调与人--机交互是两个相互关联的技术领域，但是一般而言，多智能体协调研究主要侧重不同配置的智能体协同机制，而人—机交互则侧重于协作认知。

多无人平台协调至少有四大好处：扩大覆盖面、降低成本、提供冗余能力、实现规范化。与单个平台独立工作相比，多无人平台协调的共同覆盖面更广，持久力更强，不仅可以发挥网络通信中继的作用，还可以为传感器网络覆盖面提供保障。多个低成本无人平台可以代替单个高成本低可观测平台，也可以替代应对“反介入”和“区域拒止”而必需的高保护级别的系统。在出现噪声、混乱、干扰、伪装、隐藏、欺骗现象时，多个低成本平台并行可以提供冗余能力，即使其中有几个平台正在执行其他任务或出现故障时，最后依然能够完成任务。通过协调多个专用平台或异构平台，可以减少成本，降低设计要求。

通过自主协调，可以使多个无人平台快速完成协调最优化，降低出错率，降低或消除网络通信或其他资源的依赖性。利用自主规划能力，可以使无人平台在动态变化限制条件下实现最优化。规划与调度算法可以实时协调成千上万的智能体和约束条件，这是人类单靠自身无法实现的。协调并不仅限于并行活动的运动规划，还包括协调系列活动。例如，为了从多个频谱或多个视角（如空--地）进行观测，通过通用无人平台给专用无人平台分配任务。实现自主协调并不一定需要网络通信，因此，在隐蔽去、模拟环境或通信不可用的地区也可以使用无人平台。 

四、自主性问题的思考

（一）人的决策与机器决策

我们正在越来越多的问题决策交给计算机，但机器的决策就一定比人的决策正确吗？用计算机来做决策的初衷一定是善意的：提高效率，让决策迅速获得数据支持，且保证流程的一目了然。而在惊叹于这些让人眼花缭乱的自主性决策系统算法时，人们往往会忽略一个重要问题，自主性决策系统可能会由于数据偏差，系统内置缺陷等问题，可能会带来很多负面影响。

自主性通常用以支持人的决策。专家系统或决策支持系统提供决策知道，例如，行动过程置顶后评估、目标提示或者对探测到的目标进行分类等。实际上有效的决策支持存在困难。虽然我们一般假定这种系统能够改善人的决策，尤其是在执行困难任务时，但事实并非如此。证据显示，人一般先采纳系统评估和建议，然后再将其与自身的知识以及对态势的理解结合起来。错误的觉得辅助会产生决策偏差，因而可能会增加人犯错的概率。再者，由于考虑的信息源有所增加，因而决策的时间也会相应的延长。因此辅助决策系统如果存在缺陷，可能并不一定能够体征整体人或系统决策的精确度和实时性。尽管好的建议有用，但如果建议失当，则会使决策人犯错，因而整体任务性能将会下降严重。

相反，评判人的决策的决策支持系统，由于输入是在人做出决策之后发生的，因此能够提出由人到计算机解决问题的方案偏差。它同样还利用了计算机的一大优势，即快速模拟人体术的解决方案，从而从环境态势的多样性以及对抗行动中，识别出潜在的缺陷或缺点。这样更好的促进人--机协同，进而提高整体性能。

（二）个体态势感知与群体共享态势感知

随着自主能力越来越强，智能水平也不断提高，可以应对更多样的态势和功能，需要操作人员增强理解当前工作内容的能力，以保证恰当地与系统进行交互。对于未来的自主系统，必须开发先进的接口来支持操作人员与自主性之间的共享态势感知的需求。共享态势感知是支持跨多方（目标相同，并且功能相互关联）协同行动的关键。

共享态势感知是指“操作员基于共享态势感知需求，拥有相同的态势感知程度”，即双方决策所需的共同态势信息。如果操作员都是人—即使是从显示器上获取相同输入并且在相同环境下，在获取共享态势感知的问题上仍然面临着一些挑战，因为他们的目标不同，所形成的系统与环境心智模型也不同，因而会以不同的方式对信息进行解读，或者对未来的预测也不相同。

自主系统利用计算机模型来解释从传感器和输入源获取的信息。因此，自主性和机组人员极有可能对影响其决策的现实环境有不同的评价。为了应对这一挑战，机组乘员与自主性之间必须提供有效的态势模型双向通信。这说明不仅要实现各方底层数据共享，还要共享数据解读的方式以及各方所做的未来预测。

荣幸自主要求实现高级的共享态势感知，以支持此概念涉及的多样化基本操作需求如下：

（1）目标。机组人员和自主性应支持动态变化的相同目标。例如如果飞行员的目标是复飞，而自主性的目标是在机场降落，那就出现问题了。监狱有限级别和目标会发生变化，共享态势感知保证自主性和机组人员的目标协调

（2）功能分配与重分配。柔性自主需要将功能进行持续地分配给机组人员和自主系统。了解行动的主体和对象以及机组人员与自主性执行不同功能的相应能力和状态。

（3）决策交流。当机组人员和自主性在对如何执行器不同功能决策时，必须注意这些决策（包括战略、计划和行动）必须实现双方共享，确保将相关功能采取新工党实现协同。

（4）任务协调。自主性和机组人员执行的任务可能高度相关，而且通常还相互依赖。各方都需要一直保持对对方所采取的行动和这些行动目标共享程度的理解。

在共享态势感知大量信息处理过程中，在遵循某种原则的情况下，将信息汇总，可能会产生例如a>b，b>c，c>a的现象，很明显根据大量信息计算所出现的结果显示可能会违背个人态势感知中c不可能大于a的逻辑。所以需要合理利用群体共享态势感知，和个体态势感知相结合，最大限度的利用共享信息，降低对其的绝对依赖。 

（三）如何构建人机信任度

     信任是复杂且多维度的。人在针对给定任务指定系统部署决策时，必须信任系统；对其他许多决策过程有影响的所有利益相关方也是如此。在设计时构建对心痛的可信度，提供适当的指示能力，以保证对作战可信度的基于情景且不可避免的变化进行评估，并在运行时予以处理，这对操作员、指挥官、设计人员、测试人员、政策或法律制定者，乃至公众都是一项基本要求。

适当的设计、执行系统，确保高能力、高可靠性、高完整性等关键属性，是保证可信度的方法之一。当然设计人员应当在开发和制造自主武器的系统过程中嵌入这些关键属性。然而，这些属于可能会受到多方人—机混合编队特征的影响，其中包括：

1、机器缺乏人-模拟感知与思考。与人相比，自主系统拥有不同的传感器和数据源，因此可能需要在对作战环境的不同情景假设条件下使用，此外，对于特定的算法选项（如图像处理的模式识别、决策优化算法、学习的深度学习网络等），机器可能会采取明显不同于决策人的方法来进行“推理”。

2、机器缺乏自我感知和环境感知。自我感知可能简单到仅仅是理解系统自身的健康状况（如电池电量），也可能复杂到感知何时在原始设计界限或假设条件以外使用。环境感知包括传统的环境感知，如在机翼结冰或有干扰的条件下通信，以及GPS欺骗等复杂效应。当然，对于机器而言，感知自身和使用环境的变化是远远不够的，还必须在此基础上灵活、有效地适应这些变化。

3、可观察性、可预测性、可指示性、可审性低。自主系统不仅要求能够在动态变化的复杂作战情境下，可靠地在能力范围以内运行，还必须能够向人和其他机器队友发出可观察的相关信息。此外，即使机器能够保证当前的状态和效应的可观察性，但仍有可能不具备足够的预期指示器，使人和其他机器队友无法保证可预测性。此外，一旦出现错误，自主系统必须能保证其他机器或人能够以适当的方式，及时干预、纠正或者终止错误，从而保证可指示性。最后，机器还应具备可审性。换言之，机器必须根据事实能够保存、提供一份有关决策和行动背后的推理的不可修改并且可理解的记录。

4、人和系统对共同目标的理解不够。为了保证任何自主系统能够有效地协作，双方必须设定并充分理解共同的目标。

5、无效接口。传统计算机接口（如鼠标点击）实现的人与机器之间的通信速度较慢，因此会妨碍时敏或高风险态势下所需的协同与协作。改进接口有助于缓解这些问题。

6、具备学习能力的系统。目前开发的机器，一般能够改变自身的能力和限制条件，并且适应其用途和环境。这种系统将会超越其初始验证与确认，要求采用更加动态的方法，以保证在全寿命周期内有效地执行有关任务。

操作人员必须能够半段自主执行任务的可信任度。这种信任度逼近与整个系统的可靠性有关，还与根据态势对系统在特殊态势下执行特定任务的性能评估有关。为此，机组人员必须建立知情信任—对应用自主能力的时机、程度以及干预时间进行精确评估，对信任度进行校准，过度信任，信任，信任不足等。 

五、自主系统的未来发展与投入方向

（一）感知

发展方向：复杂战场中的环境感知与态势理解：感知计划主要注重提高单个平台或相关平台群的导航自主能力，而平台任务感知放在次要位置。

发展的具体要点如下：

1、单平台战场感知的综合应用，与用地图标注相比，话不具有明显优势，而且感知在帮助作战人员掌握平台运行状况，以及呈现平台与战场、任务目标之间的关系等方面所发挥的作用也经常被忽视。相反，他还被错误地看作是计算及显示的问题，然而，显示并不能弥补感知能力的缺失。

2、消除有人-无人系统密集作战空域冲突。感知规避技术已经通过检查，而且还有许多方案可供利用。然而，最主要的发展方向在于基础理论缺乏，而不是巩固这些方案，将其融入到现有技术房中，并满足社会组织的约束条件。

3、突发性威胁源实时探测与确认。威胁源探测与确认是态势理解的最高级别，在这种模式下，作战人员可以识别和设计必要的行动。在探测威胁源时，既可以借助与单个平台的机载感知系统，也可以通过综合多个平台的观察情报和曲子其他渠道的信息来确保探测任务成功。

4、复杂地形障碍物高速检测。有关在城市、野外树林或人群中为无人地面平台导航的技术研究目前仍然处于初级阶段。

5、多传感器综合。无人系统的各项感知能力与传感器之间通常存在一对一的关系，多传感器综合虽然能够提高感知的可靠性和环境建模的全面性，却往往处于被忽视的地位

此外需要权衡感知与传感器，可靠感知与平台健康监控的证据推理能力，以及操作感知等领域的投资。

不要过度关注开发新的传感器、忽视现有的传感器算法优化；不要将感知划分为人的感知和计算机感知，认为这两种类别不存在交叉关系，从而忽略了人—机协同感知的合作关系；不要将自主感知置于人工操作性能之上。

（二）规划

发展方向：最大程度的弥补自主化系统和用户自身知识的不足

发展具体要点：

执行监控与重规划。有句名言说得好：“没有任何作战计划在于敌手相遇之后还有效”。因此，在开展规划工作的同时，监控全局，检测故障捕捉机遇，并调整计划，使之与形式相适应是行动成功的关键。

（三）学习

发展方向：适应非结构化动态环境，开发能够适应这些复杂环境的学习技术。

机器学习现已成为开发智能自主系统最有效的办法之一。大体而言，从数据中获取信息比手动知识工程的效率更高。

发展的具体要点如下：

采用多种技术来减少学习系统的监督工作量，包括：主动学习，迁移学习，半监督学习，跨模态训练，增强学习，模仿学习等。

（四）人-机交互发展方向

1、人与无人平台良好沟通

2、人与无人平台之间的工作建模

3、研究并提高人与无人平台的配合度

4、预测人与无人平台协作的可用性和可靠性

5、捕获和表达人与无人平台在特殊领域应用中的交互关系

6、刻画终端用户

发展要点：

1、实现可信人—系统协作所需的自然用户接口

（1）操作员控制接口，可以在多自由度条件下，快速完成系统、常规传感器以及视点相关训练，将新手培养成为一位专业人才

（2）以感知为导向的接口与传感器。均按照人体告知系统的心理特征与生理特征设计

（3）接口显示无人系统但钱操作，以及预期任务目标之间的关联性

（4）人—系统有效对话。利用自然人交互模式，尤其是自然语言与字体动作。

2、可理解的自主系统行为

（1）无人系统人—机交互规约模型。利用规约模型，可以指定设计标准、评估标准，以及操作测试与评估规程。

（2）专为操作员或决策员设计系统知识或系统状态模型。利用这种模型可以保持系统可预见成果的可信度。

（3）成本效益数据采集/分析方法。利用这些方法，有助于提高对无人系统现场操作方式及其使用的自主能力的理解。

（五）自然语言理解

发展方向：操作员秩序根据视觉注意机制所接收到的信息，发送口头指令便可以完成任务，从而减少工作负荷，提高作战人员在恶劣环境下的生存率。

现在自然语言理解侧重书面文本的理解，忽略了以实际环境直接交互为重点的指令理解和对话理解。

发展要点如下：

（1）情景化语言解释。将单词与词组与对实际环境中物体与事件的感知联系起来。

（2）指令语言理解。将自然语言指令映射到机器人执行的正式行动序列中。

（3）空间语言理解。对环境中的空间关系语言表达进行解释

（4）情景对话。为实现人—机交互与人—机协调而进行的混合主动式自然语言对话。

（六）多智能体协调

发展方向：每个智能体都具有一定的自主性。多智能体之间可以通过两种方式进行协调，即分布式和集中式协调。分布式协调是指智能体提直接进行互动或交涉；集中式协调是指在规划期的指导下统一进行协调。无论智能体采用哪种方式进行协调，我们都必须确保智能体不仅能够同步化，还能适应环境或任务的动态变化。

具体发展要点如下：

（1）针对特定类型的任务，将合适的协调方案与系统属性进行规范化映射。到目前为止，多智能体系统依然采用adhoc网络，研究工作主要侧重与开发新的协调算法，忽视了新应用领域的开发，也没有注意将研究成果融入规范的排他性设计理论，是实际人员不能为特定的任务挑选最合适的系统。尽管目前的分类系统在这个问题上只能发挥最基础性的作用，但我们今后必须加强这一领域的有关工作。

（2）可证明的正确的紧急行为。弱协调有意识系统和弱协调无意识系统都是利用生物学算法来实现通信量、计算量和感知量最小化的。低成本无人平台群具有许多优势。但是，目前我们还没有适当的工具来预测环境突然性变化将引发什么样的后果，以及无人平台的相应行为是否正确。

（3）干扰与机会性任务重分配。利用多个机器人在共同目标的引导下协作，那么机器人之间可能存在无意的互相干扰现象，从而导致工作效率下降。更加值得注意的是，如果多个协作性无人平台在局部范围内是一个系统的组成部分，而在全局范围内却是另一个系统的组成部分，在空间上通常相互协作，那么便可以实现能力实时共享和分配。

（4）通信。包括通信的方式和内容。蜂群、羊群、牛群等许多生物系统都是利用姿态语言、空间关系、声音、颜色以及信息素来进行沟通的。无人平台应用程序的隐式通信和权衡空间的显示通信的可靠性还有待查证。然而，无论无人平台或无人平台与中央服务器之间的通信内容是什么，鲁棒网络通信都是强协调系统和大多数弱协调系统的关键所在。