自动驾驶的双重悖论及其解决

郭喨 唐兴华

来源：《中国社会科学报》2019年2月12日第1630期 

自动驾驶正在驶来，为了接近自动驾驶时代，我们还有许多工作要做。无论是技术层面还是政策、监管层面，以及伦理和法律层面，其中一个核心问题是自动驾驶的“上路标准”确定与自动驾驶的事故责任分配问题。

　　研究者指出，“在增强高速公路安全、缓解交通拥堵、减少空气污染等领域，自动驾驶会带来颠覆性的改善”。首先也是最重要的，是生命的拯救。例如在美国每年约有32400人死于车祸，而中国则多达约26万人。刘少山等人指出，“几乎可以肯定，在这方面，无人车将带来大幅改善，避免车祸伤亡”。美国伊诺运输中心的预测显示，如果路面上90%的人类驾驶汽车变成自动驾驶的，那么美国每年可以减少21100人死于车祸之中。这一“救命效应”对于中国而言将更加可观，自动驾驶的广泛实施将带来车祸死亡人数数量级的下降。此外，自动驾驶车辆的行车速度更快、行车和停车间距更短。更短的行车间距会引发减少风阻的“弹弓效应”，自动驾驶车辆可以组成紧密的编队抵近行驶，节省能源；更短的停车间距将提高停车场停车效率。研究指出，“无人车能将每侧人为预留的空间减少10厘米”。以我国为例，每个大车位可以节约超过1平方米的土地。另外，与智能交通系统（如V2I或V2X）协作、车流量的精准预测和运筹学原理的普遍运用，将显著提升整个公路交通系统的运输效能。

　　然而，自动驾驶也面临一些相当难解的问题。例如在监管和公共政策、伦理与法律方面，“自动驾驶”面临着“行动者悖论”和“旁观者悖论”的双重悖论。

　　悖论一，自动驾驶的“旁观者悖论”：自动驾驶车辆在面临紧急情况下如何回应，按照什么标准给生命和财产赋予合理价值，如何进行风险分配？

　　“旁观者悖论”是“电车难题”（Ttolley Problem）的自动驾驶版。例如，如果车祸的发生不可避免，自动驾驶汽车是决定撞向路旁的一名儿童，还是牺牲车内的五名成人？然而，一些自动驾驶技术研究人员常常将之视为一个“虚假悖论”，一个对自动驾驶而言实际上并不存在的悖论。美国康奈尔大学创意机器人实验室主任利普森（Hod Lipson）等人指出，“为何人凭直觉做出的碰撞决定就可以被接受，而汽车的碰撞处理由于提前被设置好，就成了道德问题？”他们的理由如下：1.自动驾驶汽车的“驾驶”更为理性，能够快速进行风险和利益分析，这比普通人类驾驶者的决策要好得多；2.自动驾驶拥有360度的感知器，掌握的信息也更全面。他们认为，“自动驾驶汽车将会挑战我们的价值观和可靠性，并把驾驶从凭直觉转换到单纯依靠数据和逻辑”。“旁观者悖论”成为“虚假悖论”的另一个重要理由在于，在真正“自动驾驶”的世界里，并没有“碰撞”。首先是驾驶安全性的大幅提升。其次还在于，在作为“行动者”的自动驾驶的决策系统中，与其他车辆的“碰撞”几乎是一个不可能事件，而不是旁观者们所想象的“只差一点点”，差了10厘米就碰到了。实际上，稍微深入了解一下自动驾驶的路径规划系统就会发现，那“一点点”在路径规划里是“无穷大”。对自动驾驶车辆而言，他人是不可碰的。

　　当然会有人跳出来反驳，你看现在上路的自动驾驶车辆都撞了多少回了。这确实是事实，但问题是现在上路的车辆都不是自动驾驶车辆，而是商家将L4级别以下的辅助驾驶车辆吹嘘为“自动驾驶车辆”。真正自动驾驶车辆的碰撞必然发生在“不可控”状态，如后车高速撞击，或翻滚中，而一个不可控的车辆可能是无需负责的。对自动驾驶汽车设想中的道德问题很多时候并不是基于“驾驶过程中，计算风险和价值哪个优先”的事实，而是因为这些计算是由人工智能得出的结果。但关键的问题并非自动驾驶车辆是否“具有道德”，而是预先设置的紧急情况下风险分配的逻辑是怎样的。

技术专家与哲学家在人工智能及其应用自动驾驶上可能存在某种分裂，自动驾驶的“旁观者悖论”可能只是一些哲学家作为“旁观者”的一种诘问与合理关切，实际上可能意义不大。

　　悖论二，自动驾驶的“行动者悖论”：我们为了“更加安全”的理由拥抱自动驾驶，但是当前的自动驾驶中，是否机器越“辅助”，人类越危险？现实的问题在于，在走向自动驾驶的过程中，机器要不要“辅助”人类？我们是选择机器间接“辅助”还是直接“替代”人类驾驶？

　　这一悖论的背景知识在于，机器越“辅助”人类驾驶，人类越不安全，该事实与大多数人的直觉相反。这也表明，自动驾驶的发展从L1到L2、L3、L4级的“顺序模式”其实是一种“困难模式”，自动驾驶对人类驾驶的替代很难是一种渐进式、逐步替代的“渐变”，但这种模式为很多人特别是“中层和底层控制”经验更为丰厚的传统汽车厂商所青睐。“渐进式演变策略的核心假设在于，当有突发情况出现时，应该有警示或震动提醒驾驶员需立即回驾驶位以处理情况。”然而，辅助的自动化会诱使驾驶员注意力从道路上引开，并损害驾驶员对紧急情境中的关键因素进行迅速识别和适当处理的能力。如美国弗吉尼亚理工大学的一项研究表明，“大多数驾驶员在有技术辅助他们驾驶的时候，都不自觉地犯了三种以上常见的危险驾驶问题：到后座拿东西，打电话，以及收发邮件……同时，驾驶员的视觉注意力也会下降。当车道保持系统接手方向盘时，驾驶员的注意力就会完全游离。”利普森指出，“人类和机器人不应轮流掌握方向盘”。突发事件发生时，车辆的驾驶权正好“交还”给“完全心不在焉或处于沉睡中的驾驶员”，这可能引发灾难性的后果。因此，将“驾驶车辆”的责任同时分散给人类和机器驾驶员是一件非常危险的行为。

　　自动驾驶应一开始就是一种机器“完全替代”的驾驶，换言之，应直接开发L4及以上级别的自动驾驶车辆。自动驾驶汽车的发展没有所谓的中间地带，人和机器不应该共同掌握方向盘。直接发展L4及以上级别的驾驶，既能够完全解放人类双手双脚，又能大大提高驾驶的安全性、缩短无聊的驾驶时间、节省空间以及提供便利性，这将成为未来自动驾驶的发展趋向。但是，不排除人类社会的认知惯性大于自动驾驶发展的内在逻辑，社会或许会选择一种从L1到L5级别的“渐进式发展”，这样的话，我们可能将付出更多的安全代价，但这种最危险的“渐进式”或许是人类走向自动驾驶最有可能的技术路线图。不过，随着自动驾驶技术难题的化解和悖论的破解，我们终将迎来自动驾驶时代。