科技伦理是捍卫伦理底线还是追求天花板

李侠

（上海交通大学 科学史与科学文化研究院）

自2022年3月20日中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》以来，科技伦理的研究出现了井喷式的发展，与此相关的文章和学术会议也是呈现出一派繁荣的景象，科技伦理研究已经名副其实地成为当下的显学，但热闹过后需要考虑一个根本性问题，在追求科技向善的过程中，科技伦理到底是应该捍卫伦理底线还是要追求伦理的天花板？

随着以大语言模型chatGPT、脑机接口等技术为代表的人工智能的迅猛发展，科技成果所带来的不确定性与风险也随之快速增加，仅就其对社会影响的深度与广度来说，今天的科技与以往的科技完全不可同日而语，甚至都不在一个层级上，因而，世界各国都加大对科技伦理问题的关注实在是形势所迫，否则一旦越过窗口期，科技发展真的有可能出现失控状况，尤其是在资本的加持与热情介入的态势下，新技术突破已处于加速期，当冰山耸立面前再去治理所要付出的代价是人类难以承受的，为此，世界各国的科技管理部门都必须要做点什么。

客观地说，科技伦理对于科技负面效应的约束力是有限的，换言之，科技伦理不是保证科技始终向善的唯一灵丹妙药，毕竟伦理不具有强制性。笔者以前曾撰文指出：科技伦理的最终目标是使科技风险最小化，而不是风险彻底清零，这就意味着加强科技伦理要有限度，否则就会事与愿违，为了无限缩小潜在风险，很可能导致治理成本的快速增长甚至出现极度不经济现象，从而阻碍科技的正常发展。就如同考试中得80分比较容易，但是要考95分甚至100分就非常难了，一味追求高分反而会扼杀学生的学习兴趣。基于这种常识，那么在科技伦理的具体治理过程中我们应采取什么样的行动理念呢？

在伦理学上有一个非常有名的命题：捍卫伦理底线，即全社会要努力捍卫一些基本规则与规范，防止人类行为下滑到某一种不可接受的水平之下，从而维持社会最起码的道德、秩序与文明。所有的伦理教育其首要任务不是刻意地去提升当下的道德标准，而是捍卫道德底线不被各种力量所击穿，避免出现大范围的社会失范现象，从而让全社会的行为是可以预期的。从这个意义上说，有明确的、牢固的道德底线的社会对所有人来说都是福祉。以此类推，科技领域是当今人类所有社会活动中最活跃的领域，新现象的涌现层出不穷，人类对这些新事物或新现象并没有现成的经验，而这些新现象中所蕴含的不确定性后果并不能在短期内被全部显现，此时，人类只能在没有更多相关经验积累的基础上，借鉴历史教训，设置出一些最基础性的规则与规范，以此来冲抵科技可能带来的潜在后果，而这些基础性的新规则与规范就是科技界要捍卫的科技伦理底线。

众所周知，伦理原则或者规范是用来为人类行动划定边界的，由此，人们会想当然地认为，为了让科技更好地服务人类，真正实现科技向善的目的，我们应该把伦理标准设置的越高越好，甚至可以把标准的天花板作为科技伦理追求的最高目标，毕竟，孔子曾说：取乎其上，得乎其中；取乎其中，得乎其下；取乎其下，则无所得矣。追求伦理天花板固然听起来很棒，但是并不具备现实可操作性，首先，试问什么样的伦理标准可以被称作是天花板级的标准？是康德的绝对命令吗？其次，很多前沿科技完全是探索未知的领域，这些前沿科技将带来什么后果根本无法预料，再加上新领域的展开方式很多时候是被遮蔽的，根本没有现成的经验可以借鉴，如脑机接口技术、chapGPT、合成生物学等的横空出世，由此引发的很多问题是我们从来没有遇见过的，此时即便我们想设置天花板级别的伦理标准也是做不到的，因为，我们都不知道会遭遇到什么样的问题，也不知道那个最高级别的标准应该是什么样子的。从人类发展史来看，最高的伦理标准就一定最有效吗？鲜有成功案例，历史的吊诡之处恰恰在于那些看似底线级别的伦理标准却在人类历史中发挥了最大的作用，如西方的摩西十诫就是底线级别的伦理规范，再比如儒家的己所不欲勿施于人也是底线级别的伦理规范，恰恰是这些底线级别的规范深入人心并成为群体行为的实际指南，反之，越是高级与抽象的规范，在实践中起的作用就越小。

而且伦理标准的设置与最终采纳与否，还会受到很多学术以外的社会因素的影响，如果仅仅从思辨角度出发，我们把伦理标准设置过高，显然会遏制新技术的发展，再加上，当今全球正处于科技的“军备竞赛”时期，单方面追求伦理的天花板很可能会阻碍一个国家的科技发展进程，事情还没有开始，我们就以高标准设置一系列负面清单，这么做只会把新生事物扼杀了，这个代价我们付得起吗？因此，在新生事物的起始阶段采取底线伦理与野蛮生长的组合实在是一个现实的选择。如果科技伦理的最终目标就是追求剩余风险最小化，那么，为了实现这个目标，在科技发展的全过程我们应该追求的是伦理底线而不是伦理的天花板。好高骛远的伦理天花板根本无法得到科技界的认同，相反追求科技伦理底线不但更接近科技发展的实际，而且能获得多数人的支持，毕竟现实生活中的科技从业者也是实实在在的人，在动机上既有善念也有恶念，底线伦理的优点在于它以明确的规则或规范禁止科技人员产生作恶动机的可能性，并给予科技人员更多的自由，重要的是，底线介入对科技活动的影响最小，这也有利于科研生态环境的建设。

公众可能会担忧，如果我们大张旗鼓地提倡科技伦理底线是否会让科技发展出现失控的风险，从而威胁到人类的长期福祉，笔者认为，这里存在两个误区：其一，伦理底线不是很低的标准，也不是永恒不变的，它会随着整个社会认知水平的提升而逐渐上移的，即向伦理天花板方向靠拢，这也正是人类文明逐渐进步的体现。随着科技活动的展开以及人类积累的相关经验的增多，伦理原则或规范也会随之进化，并且会越来越精准化，从而真正促成科技向善的目的，反之，那种在缺乏基础的情况下盲目追求伦理天花板的行为，由于违背实际，反而会导致欲速则不达的尴尬局面；其二，在伦理底线与法律底线之间的确存在一个灰色空间，这部分伦理空间会造成某些科技成果出现意料之外的伦理问题，这就是我们常说的，科技伦理只能让剩余风险最小化而不是清零化，毕竟伦理只是一种软约束，一旦行为触碰到法律底线还有法律给予的硬约束，这点风险是人类为了科技进步所必须付出的代价。

回到现实生活，我们要明确当下如火如荼的科技伦理治理热潮，其目标要定位在捍卫伦理底线而不是盲目追求天花板。学术界方兴未艾的研究与社会公众的热议恰恰是维系与提升科技伦理底线的有力支撑。

【博主跋】这一年过的忙忙叨叨的，啥也没有做成，这篇小文章是前些日子写的，现发在《中国科学报》2023-12-18的A1版，就算为2023年留个念想吧，与崔老师合作愉快，是为记！

说明：文中图片来自网络，没有任何商业目的，仅供欣赏，特此致谢！

2023-12-18于南方临屏涂鸦，下午上课记录一笔。