科技要行稳致远也需打两针伦理“疫苗”

李侠

（上海交通大学 科学史与科学文化研究院）

据媒体报道2024年4月25日，联合国教科文组织总干事阿祖莱任命来自世界各地的24名专家制订首个全球神经技术伦理框架，期望在2025年11月教科文组织大会第43届会议上通过这一全球伦理框架。在科技迅猛发展的当下，一些前沿科技问题逐渐成为社会热词，如人脸识别、脑机接口、大数据、人工智能等，这一切都表明科技领域正处在一次巨大变革的前夜，甚至已经开始，一旦某项关键技术取得突破，科技界将迎来一次意义深远的连锁式科技革命，随之而来的则是规范的真空地带，此时把科技伦理的规训措施提前至对新问题的认识与挖掘上就成为当下最紧迫的工作，否则很可能出现由已知的未知与未知的未知所带来的不可控的巨大风险，这绝非危言耸听，为此，我们不妨回顾一下21世纪以来主要发达国家对未来科技发展趋势的研判。

21世纪初，世界范围内的科技发展出现了加速与汇聚并存的现象，美国早在2003年就发布一份报告《用以增强人类功能的技术的汇合：纳米技术、生物科技、信息技术及认知科学（简称NBIC）》，2004年欧盟推出《技术汇聚：塑造欧洲社会的未来》，2009年欧盟发布《人类增强》；进入21世纪第二个十年欧美相继提出人工智能的研究规划，如2016年美国发布《国家人工智能研究和发展战略计划》，三年后发布更新版《国家人工智能研发战略计划：2019年更新版》，随后，2020年欧盟发布《人工智能白皮书》，这些标志性文件的出台，可以清晰感觉到世界各国对新科技的发展趋势已做出肯定性研判，而且这些报告无一例外都在其中安排了有关科技伦理问题的章节，为何各国会不约而同地关注科技的伦理问题呢？

回到我们的日常生活，不难看到各种源于高科技带来的伦理问题日益向社会领域扩散，如各种媒体曝光的基于大数据的算法杀熟现象，这是典型地利用算法的不透明性实施的价格歧视，再比如各大平台利用收集的客户信息实施的广告与商品的定向推送，这些违背公平与伦理的活动，其边界都还基本维持在个体道德忍耐力的范围之内，即使你愤怒，考虑到申诉的巨大成本，你也懒得去起诉，这种小恶是以量大面广的累积方式获取非法利益。正是为了防止此类困境的蔓延，欧盟出台《一般数据保护条例》，并在2018年5月生效，随后很多国家跟进，对个人数据进行立法保护。随着人工智能的快速发展，引发的科技伦理问题更加难以处理，比如情侣机器人的出现是否会对现有的家庭结构与人类的爱情观造成冲击？再推进一步，机器人杀手是否具有存在的合理性？能否用人工智能全面参与战争？从2016年至今，联合国也未就《特定常规武器公约》在成员国之间达成共识。2022年中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，这标志着中国在政策层面开始切实关注科技伦理问题。

回到个人层面，高科技带来的伦理问题也日益凸显，比如最近几年全世界范围内都在关注的神经增强技术，它涉及到一个根本性问题：个体是否有权利根据自己的意愿改造自己的身体？这是否会对人类千百年来形成的秩序与个体尊严造成致命的打击？如果放任此种技术的滥用是否会引起增强领域的“军备竞赛”？前些年的基因编辑婴儿事件已经引发过激烈的伦理讨论。最近火热的脑机接口技术同样引来很多期待与担忧，2020年8月29日，马斯克的Neuralink公司在活猪身上演示了“脑机接口”技术，该装置实现了对猪行为轨迹的精准预测。该公司2021年4月9日，利用脑机接口技术展示了猴子用意念玩模拟乒乓球游戏《Pong》。随着相关技术取得巨大突破的可能性的增加以及大量资本的涌入，可以预期这个领域的发展速度会大大加快。因为市场对于该项技术有巨大的市场需求，如数量庞大的各类身体残疾患者，但是，未来一旦脑机接口技术成熟了，我们每个人都必须考虑两个严肃问题：隐私与个体的自主性如何捍卫。如何保证我们头脑中的信息不会被恶意窃取？我们是否会在外部信息的操纵下丧失个体的自由意志？这些后果看似遥远，其实在某些生物学实验上已经初步得以实现。因此，未雨绸缪对高科技的健康发展而言永远是必要的。

这些现实表明，各国关于科技超常规发展的趋势已成共识，问题是对其带来的风险与不确定性的担忧也随之快速增加，因此，必须从政策层面上最大限度消解这种风险的可能性，同时也表明以往的伦理规训并不成功，如学界一直提倡的负责任创新与科研的理念，在实际操作层面落地不理想，总结下来，以往的策略充其量是治标之策，仅具形式与象征意义，如何实现科技伦理的标本兼治目标呢？为了保证科技活动行稳致远，笔者认为，科技活动也必须打上两针伦理的“疫苗”。

第一针，国家层面的制度性长效伦理疫苗。国家之所以高度重视科技伦理，它的目的是追求科技建制整体的“状态-结构-绩效”的最优化。原因有二，首先，通过政策安排明确科技活动的目标，体现国家意志并树立国家的正义形象，即国家希望科技活动能够最大限度上增加社会的福祉与造福人类；其次，国家通过设立明确的伦理靶标调控科技建制整体的“状态-结构-绩效”轨迹始终维持在向善、有序与高效的轨道内。道理很简单，在科技资源稀缺与政策工具强制性的约束下，只有符合国家意志的科技活动才能获得支持，否则很难有生存空间。制度的强制性约束使科技共同体选择向善而非向恶的科技活动才是理性的，既避免了资源损失又凝聚了科技共同体关于善的共识。

第二针，个体层面的责任伦理疫苗。众所周知，科技伦理在微观层面能够全方位约束科技人员的行为选择，它所依据的规训载体有三类：资源、成果与目标。借助这三种载体，每个科技从业者的行为选择从初始阶段就处在规训的探照灯下：任何科技主题在开展之前需要通过伦理委员会的审查，如果不符合伦理原则，那么这项研究就无法获得资源支持；对研究产出的成果进行市场评价，如果不能增加人类福祉与知识，那么这项科研成果也无法进入市场，潜在的巨大沉没成本对于所有科研人员而言都是一种实实在在的约束；该项研究所设立的长远目标也将时刻处于舆论的全方位监督下，并以个体诚信做背书。试问这一套组合拳下来，还有多少人敢以身试险。责任原则在个体心中的内化保证了科技向善不再是空洞的许诺，而是一种牢固的认知习惯。伦理不是科技的敌人，而是保驾护航的伙伴。

【博主跋】这篇小文章发在《中国科学报》2024-5-28的A1版，与崔老师合作愉快！

说明：文中图片来自网络，没有任何商业目的，仅供欣赏，特此致谢！

2024-5-28于南方涂鸦