负责任创新在自动驾驶行业的嵌入途径[1]

霍佳鑫 李侠

（上海交通大学科学史与科学文化研究院，上海，200240）

摘 要：自动驾驶作为人工智能时代的一项激进创新，将会引发广泛的社会与伦理问题，甚至会带来无法预料的风险，为了使自动驾驶技术更好地造福人类社会，需要把负责任创新理念嵌入到自动驾驶技术的所有环节，从而规避其可能的风险与伦理问题，为使自动驾驶技术合规落地，公众在对政府信任与对企业期待的效用组合中，运用无差异曲线确定偏好平衡点，推动自动驾驶技术在负责任创新框架下得到健康发展。

关键词：自动驾驶汽车 负责任创新 政策制定

自动驾驶作为工业 4.0 的创新成果之一，有两个趋势已清晰可见：其一，随着自动驾驶技术落地速度日渐加快，与汽车相关的产业链与生态链将被彻底颠覆；其二，维系人类社会的各类规则系统也将随之发生根本性变革。自动驾驶已是大势所趋，无法逆转，那么如何从旧范式向新范式平稳过渡就成为当下理论工作者要研究的紧迫问题。负责任创新作为 21 世纪提出的新概念旨在最大限度减少研发和创新流程中的风险，因此，本文尝试探讨如何把负责任创新理念嵌入到自动驾驶的全流程，从而为自动驾驶技术的健康发展提供一种思考路径。

一、自动驾驶的风险环境分析

经过近几十年的研发，以及诸如雷达、传感器等硬件设施和人工智能技术的不断突破，自动驾驶正日益提升交通工具的自动化水平。“汽车产业作为制造业的集大成者，已成为各国建立智能制造体系的最佳切入点。”^[1] 因此，作为人工智能代表的自动驾驶与传统汽车产业的融合几乎涵盖了下一代信息技术的全部内容，社会、技术、观念等多种因素结合在一起嵌入到自动驾驶技术中，这种变革与人类实践发生一种开放式的交互，最终形成人类力量、科技力量和社会力量之间的彼此塑造，在工业4.0与工业1.0的理念冲撞中，为传统工业的未来塑造了新的发展方向与模式。

1. 自动驾驶观念的缘起与发展

自动驾驶汽车的构想源于 20 世纪初，30年代“通用汽车在纽约世界博览会上举办了‘未来世界’科技展，首次展示了通用汽车对未来交通的设想：未来的超级高速公路将采用先进技术，车辆将可利用‘自动无线电控制技术’来保持与前车的安全距离，在车速不高于 80千米 / 时的条件下实现自动过弯。”^[2] 此后，受军事需求的驱动，从20世纪50年代后期开始，美国、德国、意大利等汽车发达国家陆续进行研发，将自动驾驶汽车从实验室拓展到现实生活场景之中。然而“自动驾驶目前依然缺乏一个统一的概念，也缺少明确的法定地位。但从广义上讲，自动驾驶汽车是在网络环境下用计算机技术、信息技术和智能控制技术武装起来的汽车，或者说是有汽车外表和汽车性能的移动机器人。”^[3] 当下对自动驾驶不同国家有自己的分级体系，本文将基于被普遍认可的美国汽车工程师学会在 2014 年制定的自动驾驶汽分级标准进行讨论。因为“它较为深刻地区分了自动化的水平，将自动驾驶分为6个等级，分别为：无自动化（L₀）、驾驶辅助（L₁）、部分自动化（L₂）、有条件自动化（L₃）、高度自动化（L₄）和完全自动化（L₅）。”^[4] 可见从有人驾驶到自动驾驶是一个循序渐进的过程，之所以如此，是因为“首先，无人驾驶汽车的应用会先发生在某些场所或某些国家；其次，汽车公司目前正在采取的策略是分阶段自主化。如果他们成功了，人们可能需要在行驶过程中某段时间来驾驶。这也使得汽车向无人化的转变不可能存在一个明确的时间节点。”^[5] 因此，自动驾驶在落地之前需要解决如下问题。

首先是规模化。社会能否接受自动驾驶，不是单纯的依靠几千辆或者几万辆测试汽车，而是需要工业化大规模生产，这样才可以把自动驾驶汽车推向市场。与此同时，当前几乎所有自动驾驶汽车都是以电驱动系统为动力源，那么其配套的充电基础设施也需要规模化才能适应日常使用场景。另外，现在自动驾驶的开发都是基于特定区域开展的，因此会面临本地化适配问题，比如地图更新在大城市进行搜集比较容易但在偏远地区会出现更新困难的情况。若无法解决本地化问题，很难在数量上有所突破。“经济发展的过程是从观念变革，到市场规模、组织变革，再到生产方式变革。”^[6] 换言之，自动驾驶的观念已经被社会了解，而规模化在很大程度上决定了自动驾驶汽车能否最终落地。

其次是信任问题。信任是维系人类社会秩序的基础。对自动驾驶汽车而言想要实现规模化就需要突破公众的信任危机。到目前为止，自动驾驶的研发过程尚未做到真正的透明，特别是在需求、规格、测试等细节上，因此对于公众而言很难建立有效的信任，由此涉及到政府参与其中的行业标准制定与管理问题。特别是由政府制定的相关政策、标准，将影响自动驾驶技术的可靠性、兼容性、规模程度，以及车企的责任分配等问题。基于信任传递原则，政府背书能提升公众对自动驾驶汽车的接受度，问题是政府背书是有代价的，政府要为自己决策的失误承担相应的责任，这也是公众相信政府背书的原因所在。

最后，市场化的问题。自动驾驶汽车的商业模式尚未成型，但是这项技术所具有的潜在商业价值对现有汽车商业模式构成严重挑战。企业一方面需要创建符合消费者需要的品牌，引导消费者购买产品，另一方面则需要在研发或者推广时，给企业设计、研发、销售人员指明方向。在赢利之前，“企业一方面要容忍创建新模式过程中的必然试错，另一方面也要设定一个开发周期，以尽可能少的资源来产生结果，并证实其可行性。”^[7] 在市场推广中，一项新技术肯定会受到传统利益相关者的阻击，企业愿意支付多少成本与相关者进行协调也是需要考量的因素。技术与产品之间存在着巨大的转化鸿沟，弥合这种鸿沟则需要科研人员以及企业付出巨大的投入，同时也面临无数的转化风险。“因此，前沿技术的产业化往往要历经曲折的历程，而且产业的发展壮大以及使用通用技术在其他产业中发挥巨大威力，还需要互补技术、产品与产业的协同演进作为支撑。”^[8]

       自动驾驶汽车是大势所趋，但落地仍困难重重，究其原因，关键在于其涉及到的风险问题并没有得到合理解决或者社会认可，可见自动驾驶作为一项“新技术不仅对社会和经济做出巨大的贡献，还涉及到社会的根本性变革，挑战着我们已有的价值观和世界观。”[9]

2. 自动驾驶的风险类型与特点

自动驾驶汽车作为一项激进创新，“在很大程度上减少交通事故、交通拥堵和空气污染，在提高效率、空间利用率、人员流动性等方面具有巨大潜力；同时，它也带来了诸如安全、环保、监管与法律责任追究等有关的风险和挑战。”^[10] 目前的汽车已经配备了多种且大量的环境感知设备，处于 L2 级别向 L3 级别迈进的攻坚阶段。这个阶段的难题主要有两个：其一，技术攻关遇到的困难；其二，遭遇到伦理道德、法规不完善等社会因素对技术发展的阻碍。从这个意义上说，在评估其可能涉及的风险前，应优先评估自动驾驶汽车作为一项新技术普遍存在的固有风险势在必行。这些风险可以分为以下五类：技术、环境、行业、伦理和政府风险。

在技术风险中，凸显的是运营风险。自动驾驶汽车配备了极其多样的软件，敏感的传感器和复杂的算法以保障车辆的平稳运行。随着时间的推移，软硬件都会出现老化情况，需要企业持续对每一辆车进行监控，避免发生事故。另外，也应明确自动驾驶汽车潜在的缺陷或故障，因为它们会对自动驾驶汽车和交通中的其他参与者带来安全威胁。与此同时，自动驾驶系统涉及到GPS、5G、蓝牙、无线网络等，它们的电磁辐射为乘客带来潜在的健康风险。再有，网络安全和数据保护问题也日益突出。

环境风险与技术风险密切相关。“自动驾驶汽车首先是对环境信息和车内信息的采集、处理与分析，即环境感知，它是智能车辆自主行使的基础和前提。”^[11] 环境风险表明，自动驾驶汽车制造商需要针对极端天气因素诸如雷雨、暴风雪、沙尘暴等对传感器造成的失灵影响提出相应解决方案，以确保在恶劣天气下车辆能够安全运行，这使其对自然环境的适应性提出了更高的要求，此外，自动驾驶汽车需要与更复杂的交通环境进行交互，这都需要在设计规划时充分考虑自然环境与社会环境带来的各种风险因素。

在行业风险中包含着对劳动力市场、经济等带来的影响。一项技术的出现犹如硬币的两面，在憧憬享受自动驾驶汽车带来便捷的同时，也需要面对其负面影响。其中有些已经是可以预见到的，比如传统工作岗位的消失，像司机、驾校还有汽车销售都可能在自动驾驶时代消失。再有，自动驾驶汽车引入市场中会产生经济溢出效应，从长远看，自动驾驶汽车将会改变原有的商业模式，以及现有的交通法规。

政府面临多种风险考验。一方面，对于新技术，资本往往持乐观态度，但是对于政府而言，更要考虑到自动驾驶技术对社会的冲击。如果自动驾驶汽车在全球推广开来，必将与现有城市治理结构产生矛盾。另一方面，自动驾驶汽车的研发过程存在着去中心化、隐秘性和难以解释等特征。政府没有办法像往常一样短时间内进行事前治理。如果技术发展速度超过政府治理能力提升的速度，那么技术会形成自己的一套运行规则，对政治结构产生冲击，从而威胁到政府的权威性，为了避免这种风险的发生，治理能力的提升成为制约政府合法性的关键考量。

道德风险的主要表现是责任的认定与分配问题。自动驾驶紧急情况的解决方案不是由自动驾驶汽车本身决定的，而是受研发人员编写的算法控制，责任判定与分配成为非常棘手的问题，甚至会出现无责任主体的困境。更紧迫的是，在整个社会层面并未就某些道德风险分配达成共识。

高科技时代也会促成风险社会的加快到来，为了应对这种情况，事前控制成为化解风险社会的主导路径。负责任创新的使命在于在创新的设计阶段就预先进行风险防控，回到自动驾驶话题，那就是负责任创新如何嵌入到自动驾驶的所有环节，从而使自动驾驶最大限度上服务社会，提升社会福祉，而不是相反。

二、负责任创新为自动驾驶落地提供合法性

随着驾驶辅助系统大规模应用于汽车上，让公众对自动驾驶汽车的期望不断提高，但是因驾驶辅助系统导致的事故，也让人们对这一创新技术产生了怀疑：谁该对此负责任。责任与创新可以说是与人类伴生的概念，随着技术的不断发展，创新结果的两面性使创新的伦理方面受到特别关注。因此，在 21 世纪初美国学者将责任与创新二者结合，提出负责任创新概念（Responsible Innovation），“在这股潮流中对政策影响最大的是欧盟层面提出的‘负责任的研究与创新’（Responsible Research and Innovation, RRI）。”^[12] 当前对于负责任创新尚未形成统一的明确定义，较为全面的有冯·尚伯格（René von Schomberg）的定义：“负责任研究与创新是一个透明互动的过程，在这一过程中，社会行动者和创新者相互反馈，充分考虑创新过程及其市场产品的（伦理）可接受性、可持续性和社会可取性，让科技发展适当地嵌入我们的社会中。”^[13] 而欧盟委员会在“地平线2020框架计划”中则将其定义为一种进路，“该进路对于研究和创新的潜在意涵和社会期望进行预期和评估，目的是帮助设计包容和可持续的研究和创新。”^[14] “其特征是将更多要素纳入责任系统之中，更多考虑人权，追求创新成果绿色化和普惠化，目的在于对（科技）创新实践进行管理，力求使创新更好地造福社会。”^[15] 负责任创新从本质上而言并无新意，因为关于它的主题在其各自的概念领域中都已经被广泛讨论，但是负责任创新作为一种新话语体系应该清楚地说明暗含在创新过程中的风险与不确定性所引发的伦理困境。从发展的角度来看，通过将负责任与创新捆绑起来，从而使创新成为一种约束下的行为，以此适应时代需求，构建出责任、创新与可持续发展三位一体的科技发展路径。因此，负责任创新的主旨是在创新全流程中纳入伦理诉求，更具体地说，伦理因素如何嵌入到创新全流程，以及作为伦理输入者的科研人员其所具有的伦理道德知识是否能够满足与契合社会与公众的要求，最终使公众能够对自己的未来在知情下做出负责任的选择。从长远来看，“在推动产业创新、创造增长机遇、引导社会变革的同时，其技术创新设计的治理议题及其分析亟待引入更为系统的创新范式架构。”^[16]

1. 负责任创新嵌入到自动驾驶技术层面的路径安排

单纯着眼于自动驾驶的内在性质并不能判断其未来走向。以谷歌为代表的互联网企业正在通过这些新技术与传统车企拉开距离，构建新的技术壁垒。然而技术研发因此也进入到了相对未知的探索领域，可将自动驾驶、新能源和人工智能、未来的汽车等全部整合起来形成一个技术整合体。因此自动驾驶作为有着复杂体系结构的技术，其肩负的伦理责任也是异常复杂的，因而，在研发过程中应该遵循以下原则：第一，负责设计、开发的研究人员需要对其产品负有可预见的责任，同时这一责任由设计、开发、部署等研究人员共同承担。第二，各层级的设计研发人员必须将责任规范嵌入到相应的技术系统中。

根据图 1，可以将自动驾驶技术分为以下6 个模块，即车辆、感知层面、任务规划层面、运动规划层面、运动控制层面以及行为执行层面。这六个模块又可以集成在动力域、车身域、操控域与电子系统域四个技术集合中，四个技术集合与自动驾驶分级体系相互交织。目前虽然建立了自动驾驶汽车技术的分级体系，明确划分出对应技术内容，但是缺少相应的伦理内容。造成了对技术监管的笼统与模糊，负责任创新作为一种主动参与过程，不仅应该从宏观上考虑伦理风险，更应该把这些伦理风险分解嵌入进六个模块之中，基于 6个划分级别，分别就各级别应关注的核心伦理内容做出相应规定。

在L0阶段，驾驶员完全控制车辆阶段。此时的最大技术伦理就是保障产品质量。进入L1 阶段后，技术可以接管一些诸如定速巡航等非关键操作。L2级别后，电子系统可以在特定环境中接管汽车，此时涉及到的核心伦理问题是算法伦理。L3级别作为分水岭，人的责任开始大部分让渡给汽车，驾驶员只需要在系统发出警示后接管汽车。因此，L3阶段，由于计算机广泛介入，隐私伦理提上日程。L4级别作为高度自动化阶段，人的主体责任几乎可以完全出让，同时意味着交通环境和道路设施趋于标准化，换言之，整个道路交通网一体化，进入物联网的时代，因此，L4阶段的主要伦理问题是网络伦理。到达L5级别，即完全自动驾驶阶段，人的责任完全让渡，所以，L5阶段的主要伦理问题就演变为汽车或者运营方自我监管伦理。宏观呈现的伦理风险是由各级微观伦理累积而来，因此，可以用公式来简单表达，如果 E代表伦理的话，那么L0级别的传统汽车时代的伦理可表示为：∑E 车=E 人+E 质，在传统汽车时代，人需要承担很大责任。而自动驾驶时代，由于人的完全退出，导致新的伦理组合就演变为：∑E=∑E 车 i，其中=1,2,3,4,5，在 L5级别展开以后就是：∑E 车 =E0+E1+E2+E3+E4+E5。针对每一个特定技术等级制定出相应的伦理责任，以此将伦理要素嵌入到相应的技术系统中，实现负责任创新的全流程再造。即便存在一些不完善之处，但至少为自动驾驶技术落地提供了一种现实的指导意见，这对于自动驾驶技术的健康发展至关重要。尤其是进入L3级自动驾驶分水岭后，在技术突破和减少风险之间实现一种认知平衡是需多方博弈来完成的。

图1：负责任创新的伦理嵌入路径

2. 负责任创新实现的四个维度

在负责任创新框架下可以有效规训自动驾驶技术的发展，从而降低未来的不确定性以及风险。为了实现负责任创新，还应考虑到两个前提，首先，负责任创新作为一种跨学科的理念，应由研发人员、人文社科学者、政府、企业等利益相关方共同协商技术发展的未来方向。其次，应在技术研发的初期就开始进行前瞻性研究，提供更多的选择，便于对技术进行修正与完善。英国学者欧文（Richard Owen）指出：“负责任创新作为一种技术管理思路应该具备基本认知特征，构建了由预测性、反身性、包容性和反馈性组成四维度体系。”^[17] 根据这个四维模型对自动驾驶进行分解，分析它们如何发挥作用。

预测性维度。首先预测意味着科研人员需要不断地考虑他们的设计目标，如果设计目标没有考虑清楚的话，很可能会带来大的社会风险。反之，当他们在设计中反复思考已知和未知风险，新技术的风险将会显著降低。自动驾驶作为一项新技术，企业要解决的是从 0 到 1的问题，那么就会面临两个主要瓶颈，一是技术，一个是资本。如何让技术按照其规律发展，而不受资本过度胁迫，作为负责任创新的监督者——政府应该给予相应的引导。

反身性维度。自动驾驶作为新技术，在考察科研人员的目标、动机与决定的同时，需要客观且专业的第三方对他们进行评估。这种评估犹如在科研人员面前放一面镜子，让他们清楚看到自己意图的合规性。行业内的成员对正在兴起的新科技究竟需要发展哪些方面拥有技术主导权，而消费者则有基于体验与经济的社会性反馈意见。虽然双方观点可能存在很大差异，但可以通过沟通达成某种程度的共识。

包容性维度。在听取专家的意见外，还需要在更大的范围内听取公众的意见并与其进行协商，减少相关方的认知鸿沟。确保研究能够得到广泛的接受，从而保证自动驾驶可以适应社会环境，更有效地解决社会的关切。自动驾驶目前正处于技术发展初期，出现设计缺陷或者技术故障实属正常，公众对其应持包容态度，对处于巨变时期又有庞大体量的汽车产业而言，牵一发而动全身，产业变革的历程需要尽可能多的沟通、理解与包容。

反馈性维度。负责任创新需要研发人员时刻保持敏感，对接收到的意见、建议、以及风险，做出快速反应，及时调整技术路线以及研究重点。与此同时，这种反馈是一种双向互动，当政府针对自动驾驶制定相关的政策对其进行监管，企业或者研发人员应该提出自己的建议，并且反馈给政府部门从而提升政策制定质量。这种多渠道的反馈系统有助于以自动驾驶为代表的新技术的健康发展。

对于负责任创新的实践而言，针对上述各维度可以采取相关措施，以此应对自动驾驶汽车发展中可能面临的各种挑战，可见，重要的是应尽可能整合所有利益相关方的诉求，只有这样负责任创新才能在分布式道德分配中各安其所。

三、自动驾驶中的负责任创新政策应对机制

1. 寻找自动驾驶社会接受度的多方平衡点

自动驾驶汽车作为新兴技术，面临着技术发展、风险控制与社会认同的多方博弈。站在技术两端的分别是以企业、研发人员为代表的技术发展派和以人文社科学者、公众为代表的技术忧虑派；以及作为监管方的政府，这三方涉及两个矛盾：首先，技术发展派和技术忧虑派之间的矛盾；其次，位于高处的监管方如何实现与两者之间的平衡并使技术实现向善的发展。因此，笔者尝试用无差异曲线去寻找这个平衡点。“把经济理论的概念应用于此项研究其目的在于产生能够在经济研究中加以检验的命题。因此表明这里提出的理论模型能够产生明确的操作性假设。”^[18] “无差异曲线的斜率一般是变化的，它表明一种商品的数量——在效用上等于一定数量的另一种商品——取决于正在考虑的两种商品的比例。”^[19] 个体对于曲线上任意组合的效用没有差异。直线 AB 是机会线，换言之，它表明了对个体而言可用于获取坐标轴上的资源。最优的组合则是机会线与最高的无差异曲线相交的切点P。据此，本文对其进行了改造，如图 2 所示，让横轴代表公众对于政府能够处理好自动驾驶汽车发展的信任程度，表明公众由于相关知识的缺乏委托给政府的缘由；纵轴代表的是对企业发展自动驾驶汽车的期待程度，同时也代表公众相信企业会遵循市场的偏好；直线AB表示的是公众对自动驾驶汽车的偏向性。于是，P点表明了公众在政府与企业之间整体偏好的折中，对个体而言效用不变。因而既不能完全信赖政府的监管，也不能完全把期待托付给企业， 这是自动驾驶汽车发展的最佳平衡点。

图2：多方接受的最佳平衡点

由于追求利润的本质，完全放任由车企研发人员所主导的技术发展可能会带来技术灾难；由于政府追求政治收益最大化，完全依赖政府监管可能会限制技术创新，阻碍社会进步。自动驾驶汽车作为创新技术，人们在理解和有效应对其变化时，固有的认知偏见和自身的知识短板，导致人们并不能够做出最优选择，因此双方的妥协将会最大限度上保证创新的有序发展。

如此进行多方平衡后，在兼顾效率和信任的同时，尽管仍存在不确定性，但积极的信任平衡方式有助于为自动驾驶汽车的发展营造出良好的发展环境，避免引发剧烈的社会震荡。“因此，对自动驾驶汽车的管理不仅需要对汽车之间的相互作用进行分析而且需要将其嵌入更为广泛的社会技术系统的分析框架内。同时许多技术和伦理问题需要在V2V（车对车传送数据的无线技术）等技术实现之前得到回答。”^[20]

2. 自动驾驶发展中践行负责任创新的一些政策安排

负责任创新作为一种理念，执行起来涉及到三个关键点，第一，需要相关领域专家和利益相关者参与其中，在信息透明与权力规制方面做出调整；第二，需要专家与公众实质性参与到技术创新全流程中，打破原有的狭窄化创新责任模式；第三，利用政策法规的强制性，规范科技的发展进程。换言之，政策安排要与负责任创新的社会嵌入直接挂钩，从而为政府治理提供行为空间边界，按照政府处理公共事务的模式，“在技术政治和创新政治领域中，通常由执法部门、法律部门和行政部门的执行措施以命令、禁令和功能的分配形式所做出的权威性的决定，就是必须遵守的准则规范。”^[21] 目前对自动驾驶汽车的未来应用前景及其发展速度很难预估，然而可以通过政府研判制定相关规则，以实现负责任创新对自动驾驶汽车实践的全覆盖。

因此，在政策制定环节，国家应坚决推进负责任创新的理念，本着实现“宏观层次上的公平原则，中观层次上的协调原则，微观层次上的效率原则。”^[22] 对于现有责任的不确定性以及产业环境的不明确提供政策指导，避免“等量齐观”的监管思路，采用“分而治之”的理念。在制定相关政策时应设置产业准入门槛，而不是设置发展上限，从而促进自动驾驶汽车产业的有序发展。具体切入点有如下几个方面：

第一，自动驾驶技术在汽车中的应用可以简化为识别主体、通讯主体、计算主体的线性链路，因此，负责任创新应在识别主体阶段开始介入，在最初阶段建立起第一道安全屏障，监控自动驾驶与其相关技术的发展，同时，自动驾驶与数字网络紧密相连，可能出现系统性风险，因而国家应该重视网络安全性问题，对于安全标准，除了需要考虑到基本伦理要求外，还要考虑到政治风险，以此建立完善的外部风险评估体系。

第二，国家在制定负责任创新相关政策法规的“硬性”纲领的同时，也应制定诸如国际倡议、行为规范等“软性”可调的共识约束，以满足自动驾驶特殊化、差异化应用场景的发展需求。

第三，按照负责任创新的参与原则，不同意见的表达往往会存有争议，但这种持续对话可以消除分歧，发现自动驾驶发展中被忽略的问题，从而为社会提供更好的服务，为此，国家应建立由多学科领域成员组成的第三方监管机构，本着客观与中立的原则，依照相关的法律法规，负责处理实践中出现的各种争议与伦理困境。

在产业层面上，企业可以把负责任创新理念嵌入到具体的生产流程中，最大限度上减少创新对社会带来的副作用。已有实践表明“负责任创新克服了障碍、抵消了成本，最终提高了企业的竞争力，企业愿意通过负责任创新为社会做出贡献，从长远看，企业的道德活动最终可能导致其管理层绩效的提高。因此，可以得出结论，即使以强制性的方式实施负责任创新，即使在考虑利润的情况下，其也极有可能得到确立和维护。”^[23] 现在面临的困难问题是，人类的价值观到底包括哪些内容，有没有普适的价值观，这是目前学界亟需厘清的问题，否则就会出现美国科技专家黑文斯（John C.Havens）所指出的：“如果无法找出我们所珍视的人类价值观，我们就不能把它们编入机器的代码中。价值观不只为每个人的生命提供独特的视角，它们还是特殊性的来源。”^[24] 这就需

要形成产-学-研-社会四方合力，共同助力可编码的价值观的建构工作。

公众层面上，负责任创新理念也应该体现在消费领域，首先，国家应尽可能“将多元主体纳入协商和互动的博弈过程，让公众参与实践获取多元主体充分和对称的信息，在新兴技术决策前优先考虑社会的观点、意见和价值，以应对新兴技术不确定性带来的负面影响。”^[25]

其次，提高公众的参与度。负责任创新的实现需要多方的参与，公众是重要的推动力量，为实现此目标，利用媒体宣传，让公众了解自动驾驶发展进程，弥合不同主体对于自动驾驶技术的认知梯度差，为即将到来的改变做好相应的心理准备。有了社会认同，在很大程度上就为自动驾驶的发展提供了社会共识与潜在政策支持的着力点。

小 结

自动驾驶将会引发巨大的社会变革，如果秉持过去的创新模式，以自动驾驶为代表的新技术很可能会引起社会恐慌和各种潜在的风险，因此，负责任创新作为一种新的创新模式，要把负责任理念贯穿进从生产到消费的所有环节，责任的分解与匹配就是所有合目的性创新的内在要求。因此，需要把负责任创新理念嵌入到自动驾驶技术的全流程，并通过政府与社会的力量引导与监督自动驾驶技术的发展。而自动驾驶企业也应承担相应的企业责任，只有实现多方的自觉与合作，自动驾驶技术才会有广阔的未来，从而最大限度上保证新技术带给社会的是福祉而不是风险。

[参 考 文 献]

[1]赵福全、刘宗巍、史天泽. 中国制造2025与工业4.0对比解析及中国汽车产业应对策略[J]. 科技进步与对策，2017, 34（14）: 85-91.

[2]柴占祥、聂天心、Jan Becker. 自动驾驶改变未来[M].北京: 机械工业出版社, 2017, 53.

[3]王建、徐国艳、陈竞凯、冯宗宝.自动驾驶技术概论[M].北京: 清华大学出版社,2019, 9.

[4]杨艳明、高增桂、张子龙、沈悦、王林军 . 无人驾驶技术发展对策研究[J]. 中国工程科学 , 2018, 20（6）:101-104.

[5]胡迪·利普森、梅尔芭·库曼 . 无人驾驶[M]. 林露茵、金阳 译，上海 : 文汇出版社, 2017, 27.

[6]任保平.发展的政治经济学：逻辑、范式与理论框架[J].经济学家 , 2020, （7）: 14-20.

[7]克莱顿·克里斯坦森.颠覆性创新[M]. 崔传刚译, 北京:中信出版社，2019, 139.

[8]李晓华、曾昭睿. 前沿技术创新与新兴产业演进规律探析-以人工智能为例[J]. 财经问题研究 , 2019, 12: 30-40.

[9]Johann, J. H., Fabian, S. 'Aligning Innovation and Ethics:An Approach to Responsible Innovation Based on Preference Learning'[J]. Philosophy of Management, 2020,19(3): 349-364.

[10]Liu, P., Ma, Y., Zuo, Y. 'Self-driving Pehicles: Are People Willing to Trade Risks for Environmental Benefits?'[J].Transportation Research, 2019, 125: 139-149.

[11]甄先通、黄坚、王亮、夏添 . 自动驾驶汽车环境感知[M].北京: 清华大学出版社 , 2019, 1.

[12]廖苗.欧洲政策思想史中的“负责任研究与创新”[J].科学学研究 , 2019, 37（7）: 1212-1219; 1276.

[13]Schomberg, R. V. 'Prospects for Technology Assessment in A Framework of Responsible Research and

Innovation'[A], Dusseldorp, M., Beecroft, R. (Eds.) Technikfolgen Abschätzen Lehren: Bildungspotenziale

Transdisziplinärer Methoden[C], Wiesbaden: VS Verlag für Sozialwissenschaften, 2012, 39-61.

[14]European Commition. 'Responsible Research & Innovation'[EB/OL].http://ec.europa.eu/programmes/

horizon2020/3n/h2020-section/responsible-research innovation. 2016-11-17.

[15]刘战雄.负责任创新研究综述：背景、现状与趋势[J].科技进步与对策, 2015, 32（11）: 155-160.

[16]Brundage, M. Artificial Intelligence and Responsible Innovation[M]. Cham: Springer International Publishing,2016, 541-552.

[17]Stillgoe, J., Owen, R., Macnaghten, P. 'Developing a Framework for Responsible Innovation'[J]. Research

Policy, 2013, 42(9): 1568-1580.

[18]彼得·M. 布劳.社会生活中的交换与权力[M]. 李国武译 , 北京: 商务印书馆 , 2012, 259.

[19]George, J. S. The Theory of Price[M]. New York: Macmillan, 1987, 73.

[20]Borenstein, J., Herkert, J. R., Miller, K. W. 'Self-Driving Cars and Engineering Ethics: The Need for a System

Level Analysis'[J]. Science and Engineering Ethics, 2019, 25(2): 383-398

[21]阿明·格伦瓦尔德.技术伦理学手册[M]. 吴宁 译, 北京: 社会科学文献出版社, 2018, 661.

[22]李侠.科技政策：分配与规训的技术[M]. 上海 : 上海科学技术文献出版社 , 2014, 20.

[23]李文军.战略性新兴产业的技术政策[J]. 中国科技论坛,2014,（4）: 51-55.

[24]约翰·C. 黑文斯.失控的未来[M].仝琳译 , 北京:中信出版社 , 2017, 222.

[25]Ko, E., Kim, Y. 'Why Do Firms Implement Responsible Innovation? The Case of Emerging Technologies in South Korea'[J]. Science and Engineering Ethics, 2020, 26(5): 2663-2692.

[1] 基金项目：国家社科基金重大项目“人工智能伦理风险防范研究”（项目编号: 20&ZD041）。

收稿日期： 2021年12月22日

作者简介：

霍佳鑫（1991-）男，河北唐山人，上海交通大学科学史与科学文化研究院博士研究生，研究方向为科技政策、科技与社会。

李 侠（1967-）男，辽宁辽阳人，上海交通大学科学史与科学文化研究院教授，研究方向为科技政策、科学社会学与心灵哲学。

【博主跋】算起来，这篇文章从构思、写作、数次的修改到发表距今已经三年多了，现发在《自然辩证法通讯》2022（12），感谢各位编辑老师和匿名评审专家，文章的第一作者已经博士毕业。时光匆匆，我们记忆中的那些遥远的东西开始逐渐多了起来……

说明：文中图片来自网络，没有任何商业目的，仅供欣赏，特此致谢！

2022-11-25于南方临屏涂鸦