博文

谈现代化29：善人科技与强人科技

已有 3952 次阅读 2022-5-11 11:45 |系统分类:教学心得

学：学生，教：教师，李：李晓榕

李：英国著名诗人萨缪尔·巴特勒早在150多年前的1863年就以诗人的敏锐预见说¹：没有几个事物比日常发生的各种器械的奇妙改进，更令当前这一代人感到自豪。……然而，如果技术的持续进化远比动植物王国的更快，那会发生什么呢？它会取代我们在地球上的至尊地位吗？正如植物王国缓慢地由无机物发展而来，动物以类似的方式紧随植物而来并取而代之；在最近的时代里，一个全新的王国崛地而起，对此，我们所见的只是他日会被认为是其远古的原型。……我们赋予[机器]日益强大的力量，通过各种精巧的发明设计，为它提供自我调节和自我运行的能力，这对于机器来说，就如智力对于人类一样。他还说²：谁将继承人类？答案是：我们正在亲手创造我们的继承者。人将来对于机器来说就像马和狗今天对于人一样。结论是，机器会生机勃勃。无独有偶，英国著名诗人马修·阿诺德（Mattew Arnold）也警告说，对机器的信仰是对人类最大的威胁。爱因斯坦说得直截了当³：我们应该小心谨慎地不臣服于智力，智力固然有强大的肌肉，却无品德。他还给出了“即便国家需要，也决不有违背良心之举”的箴言。并且，他的一个访谈，主题就是“人心才是问题的真正所在”。

我想说的一个主旨是：不该不提升人的道德水平而一味强化人的能力。既然要大力发展提高人之能力的“强人科技”或“增能科技”，为什么不积极发展提高道德水平的“善人科技”或“增德科技”，从而两相平衡？即：为什么只发展“使人变强”的科技，而不发展“让人变善”的科技？人类道德观中善的方面一旦增大到一定程度后，大力发展善人科技，就会达到良性循环。注意，强人科技和善人科技的应用发展还有一大差别：善人会帮助更多人成为善人，所以善人科技的应用会达到良性正反馈循环，从而能快速发展，使人类更善良；而缺乏道德水平的相应升高，则强人恐怕不会愿意帮助更多人成为强人，所以强人科技的应用恐怕不会是正反馈，而会造成人与人之间更大的强弱悬殊，正如资本主义这个增强经济实力的体制使得贫富更悬殊一样（贫富即经济实力弱强），尤其是在缺乏制衡时（例如自由资本主义或新自由资本主义盛行时）。

学：按照这个道理，如果人的道德水平没有提高，就不该增强智力？

李：良药可能苦口，的确如此。人类已经没有天敌克星，人类的毁灭恐怕只会来自人类自身的贪婪、好胜、不团结、缺乏节制等。举例来说，身材高大在人类社会有优势，所以，如果没有任何问题，人们多半都想用强人科技把自己变得身材高大，以致会造成“军备竞赛”般的“高大竞赛”。然而，人人都身材高大的世界会更好吗？不会，因为身材高大的优势主要是相对于他人而言的，相反，这会消耗更多的地球资源。同理，强人科技导致人人都变得更聪明，这世界会更好吗？未必，因为聪明的好处也主要是相对于他人而言的。善人科技导致人人都变得更善良，这世界会更好吗？无疑会更好！主要原因恐怕是：对于他人而言，我更善良是有利的，我更聪明则未必，我更身材高大多半是不利的。同样，对于他国而言，我国国民更善良是有利的，我国国民更聪明则未必，我国国民更身材高大多半是不利的。

学：我想，很多人都跟我一样不觉得发展强人科技有什么不对，但看来李老师很不喜欢，不知到底是为什么呢？

李：让我再次强调，我并不反对发展强人科技，而是反对片面发展强人科技。要在“善”的指导下变“强”，在变得更善更健全的前提下变得更强。举例来说，兴奋剂不就是强人科技的一种产品吗？那为什么要严禁运动员服用兴奋剂？你为什么接受这种禁止？为什么不禁止运动员变得更健全出众？因为兴奋剂是极其片面的，对人体的健全有严重的副作用。强人科技大都也如此，除非证据充足，证明某种科技是例外。同理，人的精神健全不只是智能高超，它还包括健全的道德观、价值观、精神生活等多个方面。由此可以猜测，未来某一天，在重要考试或智力竞赛活动中，恐怕也得考虑禁服“利他林⁴”之类短时提升注意力或智力的“聪明药”的未来版。

学：您前面说过，道德是远远高于智能和计算的，靠科技、特别是人工智能所造的超级智能未必有道德，至少道德不高尚，现在又说要靠科技来提高人的道德水平。这是不是有点儿矛盾？

李：不矛盾。一方面，道德远高于智能和计算，所以要造出有道德的纯机器，难乎其难乃至不可能。另一方面，道德和意识都不能脱离物质身体而存在。这正像：家不只是住处，但家得有住处。同理，道德和意识也必有物质基础，但未必可以完全归结于物质。可见，只要改变其物质基础，就能改变道德和意识。只要发现对道德有影响的物质，原则上就能靠科技来提高人的道德水平。

教：问题是，到底能不能人为地、特别是用科技手段提高道德水平？何况，即使能够，又谈何容易呢？

李：道德水平含有先天和后天的成分。要想自然而然地提高先天的成分，的确是一个极其漫长的过程。而要提高后天的成分，只要改变社会和文化、特别是道德观和教育即可，几十年即可，并非遥遥无期。人类是否有未来，成败在此一举。举例来说，由于国内近四十多年来的巨大变化，现在的独生子女一代，整体上恐怕就比他们的爷辈父辈更加自我中心。美国也差不多，不久前美国密歇根大学对14000名大学生的调查研究表明，与二三十年前的同龄人相比，今天年轻人的同情心指数下降了40%，并把它归因于社交网络上“自恋膨胀”的极度盛行——自恋是一种极端的自我中心。再如，大力增强人之能力的技术，在现代社会肯定比在中国古代社会更有市场。只可惜这几例都是负面的。针对人自身的科技，迄今绝大多数都限于治病救人、更正缺陷，今后将会日益旨在增强正常人的能力，成为“超人”，就像隆胸、整形等技术的发展一样，今后主要都是让正常人变得更强更美。

而且，我们应该还能利用科技人为地提高道德水平的先天成分，这也并非遥不可期，正像有可能人为提高人的先天能力一样。

教：这说起来容易，但是有具体结果吗？

李：有，但还很不够，因为这样的研究不受重视。道德主要体现在对欲望的控制。举例来说，研究业已表明，人的欲望这种内心力量来源于处于大脑边缘系统（limbicsystem）和基底核（basalganglia）中的皮质下大脑回路，特别是对可能导致好或不好结果的线索信号特别敏感的杏仁核（amygdala）和伏隔核（nucleus accumbens）中的皮质下大脑回路。更进一步好好研究，也许就能知道，当一个人欲望高涨时，做什么或服用什么就能使之平和下来，就像使一个情绪激动之人安定下来一样。再如，具有xyy染色体之人是否更有犯罪倾向？减少睾酮能否减少暴力性？道德行为都有赖于自律自制，故有“自制是道德的肌肉”之说。实验表明，自制力与血液中葡萄糖的含量有关；和肌肉一样，自制力也是越锻炼越强大，也有限度，过度使用会被耗尽。再如，大量研究表明，催产素（oxytocin）能增强对他人的信任，促进爱心，并使人更为慷慨大方，以致于有人夸张地称之为“信任药”“爱心药”；抗利尿激素的1a型受体也能使人更慷慨、更不自私；心得安（Propranolol，普萘洛尔）能舒缓情绪，可能减少带有情绪的潜在偏见。一个人的神经化学紊乱可以改变心理和性格，因此有些精神性药物可以改变人的自尊、注意力等个性特征。当然，这些与要造出拥有自尊等个性的机器，不可同日而语。研究表明，道德判断有神经生理基础，道德是进化压力的产物，它使社交认知和互助利他成为社交的目的；伦理道德所涉及的脑区常常是与奖赏和情感反应相关的所谓边缘系统；合作行为所涉及的脑区正是脑中的自然“奖赏系统”区域，即“上瘾”所对应的脑区。

教：我觉得，发展强人科技大概比发展善人科技不仅容易得多，而且也更受欢迎。谁不想变得更强大？这也许是强人科技比善人科技更加发展得多的一个主要原因。

李：是啊，所以浮士德才会出卖灵魂给魔鬼，以换取知识和力量。在以现代西方为代表的社会里，恐怕的确如此，其主要根源离不开资本主义，因为资本主义重利轻义，科学重真轻善。第一，资本主义刺激欲望，现代崇尚力量，使更多人想要成为强者，其比例比在其他制度下想成为强者之人的比例大得多。第二，资本主义大力推动发展强人科技，而不发展善人科技，所以前者硕果累累，后者成果寥寥。比如，由于现代科研需要经费支持，在基因学、脑科学、神经科学等领域中，大量科研旨在增强人的能力（或克服能力的欠缺），而对人的善恶是非、利己利他的生物学研究严重不足。的确，人都想变得更强大。但也没有几个人想变得更邪恶，不少人恐怕也都或多或少但愿自己更善良，即有向善之心，尽管笛卡尔在《方法谈》中明确说⁵：良知是世上分配得最均匀的用品：人人都自认为有充分的良知，就连对其他各事全都极难满足之人，也从不觉得自己的良知不够而想要更多。不过，他所说的“良知”更多的是指分辨真伪的认知能力，而更少指我们所说的向善之心。

_____________________________

1. The Notebooks of Samuel Butler: There are few things which the present generation is more justly proud than the wonderful improvements which are daily taking place in all sorts of mechanical applicances…. But what would happen if technology continued to evolve so much more rapidly than the animal and vegetable kingdoms? Would it displace us in the supremacy of earth? Just as the vegetable kingdom was slowly developed from the mineral, and as in like manner the animal supervened upon the vegetable, so now in these last few ages an entirely new kingdom has sprung up, of which we as yet have only seen what will one day be considered the atediuvian prototypes of the race…. We are dialy giving [machines] greater power and supplying by all sorts of ingenious contrivances that self-regulating, self-acting power which will be to tem what intellect has been to the human race.

2. The Notebooks of Samuel Butler: Who will be man’s successor? To which the answer is: We are ourselves creating our successors. Man will become to the machine what the horse and the dog are to man; the conclusion being that machines are, or are becoming, animate.

3. Albert Einstein: We should take care not to make the intellect our god; it has, of course, powerful muscles, but no personality. Never do anything against conscience, even if the state demands it. The Real Problem is in the Hearts of Men.

4. 利他林（Ritalin）是一种中枢神经兴奋剂，能暂时提高专注度、降低疲劳。据报道，美国有几百万（有些学校有近半）学生服用利他林、莫达非尼（Modafinil，治疗嗜睡症和睡眠紊乱症之药，可以催醒和提高注意力）、阿得拉（Adderall，治疗注意力缺乏多动症之药）等“聪明药”，以提高学业成绩。英、德等发达国家的情况也类似。这些药的积极作用并不像传言的那么有效，而且对身体和精神都有多种副作用，比如容易上瘾，导致失眠、抑郁等，因而差不多堪称轻度毒品。

5. René Descartes, Discourse on Method: Good sense is the most evenly distributed commodity in the world, for each of us considers himself to be so well endowed therewith that even those who are the most difficult to please in all other matters are not wont to desire more of it than they have.

正在出的博文系列：

与师生谈现代化之弊

1：崛起的代价 2：发展必好无疑？ 3：发展的恶果 4：科技进步果真进步？ 5：科技的罪责

6：开发进步善哉恶哉？7：现代化恶果之因 8：现代化恶果之因2 9：资本主义与个人主义 10：资本主义的修正与回潮

11：全球化的好歹 12：全球化的好歹 13：西化、现代化、全球化 14：现代化的本质 15：文化全球化？

16：妈的奶贼腥 17：多元优越 18：四大主义 19：“化私为公”的隐形手 20：进步的魔咒

21：进步的陷阱 22：进步的后果 23.成功的反噬 24：进步的残酷 25: 进步到恶神末日

26：自造成恶神 27.不贪科技 28.求知的贪欲 29.善人科技与强人科技

与师生谈人工智能：

1.智乎哉？ 2. 奢求精确之误 3.精确定义之病 4.图灵测试 5.强人工智能

6. 能而欠智 7.深度学习的短板 8.深度学习对老牌AI 9.深度学习的实质 10.与外界交互

11. 环境之复杂 12. 系统≠内部元素及联系 13. 总影响≠直接影响+间接影响 14. 总体≠部分之和 15. 分析还原的威力