学：学生，教：教师，李：李晓榕

李：上面附带说了我对当前人工智能热的看法，现在言归正传。作为世界高科技领军人物之一、Sun Microsystems公司的一个创始人和首席科学家比尔·乔伊在“为什么未来不需要我们”一文中指出¹：在我们痴迷于发明发现时未能理解其后果，这似乎是科技人员的通病；长期以来我们被压倒一切的求知欲驱动——这是科学探索的本质——而未停下来注意到向着更新更强技术的进步可以有其自身的生命。……既然这些新技术威力惊人，难道不该问，我们将如何最好地与之共处？如果我们的技术进步一个很可能（哪怕只是可能）的后果是我们自身的灭绝，难道我们的前行不该如履薄冰般吗？……这些技术的威力太大而不能在相关时间段内对其副作用采取预防措施，即使能够，发展这些措施的副作用也至少会跟它们要防护的技术一样危险。因此，所有这些可能性要么是不利的，要么是不可实现的，要么两者都是。我能想出的唯一现实的选择就是放弃：限制我们对某些种类知识的追求，从而限制那些太过危险之技术的发展。……问题的确是，由何者做主？我们会经历我们的技术而存活下去吗？……下面的问题看来值得一问：我们需要冒彻底毁灭的极大风险而求知更甚、求取更多吗？此文引起轩然大波，《纽约时报》说对它的评论文章超过万篇。我强烈建议大家读读此文（https://www.wired.com/2000/04/joy-2/），并建议有心人翻译全文，以便更多人阅读。我同意，我们应该如履薄冰般地前行，但不必完全放弃这些科技。不过，在当前一味冒进的大氛围里，矫枉过正，主张暂时放弃，也有一定道理。

学：科技毫无疑问带来了巨大的进步，科技的威力无与伦比。所以我觉得，科技发展所带来的问题，大概是因为发展得还不够充分。科技充分发展以后，问题也就迎刃而解了。而且，即使我们现在想要限制科技的发展，也做不到。科技给人力量，说到增强力量，又有谁不想呢？又有哪个国家不想呢？

李：我认为，科技的发展要靠非科技的智慧来指导，要受伦理道德制约，而不是盲目地由好奇心和资本利润驱使。当然，伦理道德也应该随着科技的发展而有所调整。仅仅能动用强大的力量未必真强，真正的强者明智地运用力量，收放自如，得心应手。无疑，科技的威力巨大。但对人类的福祉而言，关键不在于有力量，更在于得心应手地掌控力量，更在于用力量来造福的智慧和能力。“大多数的力量都要求希望获得它的人付出一种实在的代价。要有一段学徒，一段持续多年的刻苦修炼。”“但有趣的是，在此过程中，随着时间的推移，一旦某人获得了能赤手空拳杀人的本领，他也就成熟到了不再愚蠢地使用这种本领的程度。这是一种内在控制力的力量。获得力量的训练同时也改变了你，使你不会滥用它。”（克莱顿《侏罗纪公园》）然而，科学忽视难以传承和积累的默会知识，而专注于外显知识，因而便于传承和积累。要掌握它，不必经过长期艰苦的修炼和潜移默化，通过学习就能直接获取科技力量，这正像财富可以继承和积累一样。所以，掌握科技的人类因缺乏磨炼心智的修炼，未必能明智而有效地控制它、左右它，因而难免会滥用它。

  德国大文豪歌德说：“凡是能使我们的精神获得自由而又不给我们以自制力的，都是毁灭性的。”“只有具备真才实学，既了解自己的力量，又善于适当而谨慎地使用自己力量的人，才能获得成功。”克莱顿在其畅销小说《侏罗纪公园》中，甚至假代言人马尔科姆之口说：“科学是有几百年悠久历史的信仰体系。正像在它之前的中世纪体系一样，科学也已开始不再适合于这个世界。科学获得了太大的力量，这使它在实践中的局限开始显露出来。在很大程度上，由于科学，我们数十亿生活在一个狭小世界中的人紧密相聚，相互沟通。但科学却不可能帮我们做出怎样对待这个世界或怎样生活的抉择。科学可以造出一个核反应堆，但却不能告诉我们不要去建造它。科学可以制造出杀虫剂，但却不能告诉我们不要去用它。”要言之，科学有一个严重的先天不足：只能告诉我们怎样做一件事，却无法告诉我们是否该做这件事。正因如此，它越来越常被滥用——我们做了不少不该做之事，其结果是：“科学正在摧毁它自身。随着它对力量的获得，它证明自己并不能控制这种力量。”（《侏罗纪公园》）无疑，人类应该是科技的主人，而非奴仆。人类一旦承认无法限制科技的发展，就是承认科技的失控，就是放弃对科技的管控，放弃人类作为主人的权利和地位。可见，人类更应该想方设法对科技的发展负责，找到制约的手段，保持主人的身份。

  科幻小说的开山之作、玛丽·雪莱的名著《弗兰肯斯坦》与我们当前的议题非常相关。其主旨是：在好奇和狂热的驱使下，不负责任地创造，主观上不积极或者客观上无法负责地照看其结果，放任自由，将带来重大灾难。一句话，不能只顾发展，而不对其结果负责。我强烈建议大家好好读读这部有趣而意味深长的原著，而不是观看其影视版本。《弗兰肯斯坦》是科幻小说真正的开山之作，远远早于后来有“科幻小说之父”荣誉的凡尔纳以及威尔斯的作品。

教：的确，对于很多科学技术，我们常常只顾发展，而不对其结果负责。那么，对科技这种巨大的力量，应该怎么加以控制？怎么对科技成果负责呢？

李：管控和负责只可能来自科技之外，特别是智慧和道德的指导。美国大哲学家杜威百年前就说：“物理科学及其技术应用有了高度的发展，而关于人的科学、道德科学则大为滞后。我认为，由此导致的不对称和不平衡在多大程度上造成了目前世界的困境，是很难加以估计的。”（《新旧个人主义——杜威文选》）可悲的是，百年后的今天，这个失衡越发严重得多。

  强化人类能力的“增能科技”（或称“强人科技”）远大于火的威力。我们不许小孩玩火，因为小孩缺乏应有的道德、智慧和掌控力。同理，发展强人科技的关键在于：人的智慧和道德水平是否应该、是否可以、是否已经提高到与强人科技能力相称的境界？道德水平低下而力量强大，就是凶神恶煞邪魔。他们之所以恶，主要在于缺乏善心，极度贪婪，总想变得更强大。一味想要大力发展强人科技，是否与此精神相通？是否可能渐入魔道？道德水平的提高主要靠增强善心，减少贪婪。东西方文化各有其道德精华，比如西方自由平等的社会理想、公正法治的政治理念、积极有为的进取精神、普世博爱的终极关怀、寻根问底的还原方法，东方民胞物与的共生理念、力求和谐的中庸心态、和而不同的超然智慧、平衡稳定的适度原理、辩证灵动的整体把握，等等。如果我们能东西合璧，道德水平就会更上层楼。

  过分非分、不知满足的欲望就是“贪”。渴望有超越道德和智慧水平而不该有的能力，是人类普遍存在的一种贪婪，是人类内在的魔性之一。早先说过，科技的健康发展应该有人心和自然两方面的考虑，人心方面的主要准则就是不该刺激欲望、增强贪婪。所以，全然不顾伦理道德而一味提高能力的科技，是强化贪婪的科技，是不健康乃至邪恶的科技。人类的能力远远凌驾于道德之上之日，便是人类的大限。“贪心撑破了口袋”（塞万提斯《堂·吉诃德》）因此，切莫不顾一切地大力发展提高人类能力的科技，这是魔鬼的诱惑。应该有节制，杜绝贪欲，切莫急不可耐地发展这类科技。

_____________________________

1. Bill Joy, “Why the Future Doesn't Need Us,” Wired, April 1, 2000: Failing to understand the consequences of our inventions while we are in the rapture of discovery and innovation seems to be a common fault of scientists and technologists; we have long been driven by the overarching desire to know that is the nature of science's quest, not stopping to notice that the progress to newer and more powerful technologies can take on a life of its own. ... Given the incredible power of these new technologies, shouldn't we be asking how we can best coexist with them? And if our own extinction is a likely, or even possible, outcome of our technological development, shouldn't we proceed with great caution? ... These technologies are too powerful to be shielded against in the time frame of interest; even if it were possible to implement defensive shields, the side effects of their development would be at least as dangerous as the technologies we are trying to protect against. These possibilities are all thus either undesirable or unachievable or both. The only realistic alternative I see is relinquishment: to limit development of the technologies that are too dangerous, by limiting our pursuit of certain kinds of knowledge. ... The question is, indeed, Which is to be master? Will we survive our technologies? ... it would seem worthwhile to question whether we need to take such a high risk of total destruction to gain yet more knowledge and yet more things.

正在出的博文系列：

与师生谈现代化之弊

1：崛起的代价     2：发展必好无疑？    3：发展的恶果     4：科技进步果真进步？         5：科技的罪责 

6：开发进步善哉恶哉？7：现代化恶果之因    8：现代化恶果之因2  9：资本主义与个人主义   10：资本主义的修正与回潮

11：全球化的好歹   12：全球化的好歹     13：西化、现代化、全球化 14：现代化的本质      15：文化全球化？

16：妈的奶贼腥        17：多元优越             18：四大主义      19：“化私为公”的隐形手   20： 进步的魔咒

21：进步的陷阱    22：进步的后果       23.成功的反噬     24：进步的残酷                  25: 进步到恶神末日

26：自造成恶神     27.不贪科技 

与师生谈人工智能：

1.智乎哉？                      2. 奢求精确之误                3.精确定义之病            4.图灵测试     5.强人工智能

6. 能而欠智                      7.深度学习的短板       8.深度学习对老牌AI         9.深度学习的实质 10.与外界交互

11. 环境之复杂                 12. 系统≠内部元素及联系     13. 总影响≠直接影响+间接影响      14. 总体≠部分之和   15. 分析还原的威力

16. 还原论科学的威力所在   17. 宇宙的本性                         18. 实验：超实？欠实？            19. 技术的威力      20. 现代人造的新主人？

21. 递归的威力                  22. 递归主义                       23. 逻辑的克星——莫氏环带      24. 悖论的克星：同质律

与师生漫谈科研文化

1：我有科研之才吗？  2：我该做科研吗？ 3：逻辑推理的作用 4：人生价值     5：生命的延续         

已出博文系列：

与师生谈科学之弊

1：线式因果思维1      2：线式因果思维2     3：线式因果思维3         4：螺环之奇妙                 5：幻化的因果 

6：不牢靠的因果推理        7：分析还原病       8：还原论教条                    9：基因未必基因      10：割根裂本

11：强拆硬分        12：科学的领地       13：科学的致命伤         14：科学的致命伤2           15：逻辑之可错

16：逻辑可错之源       17：“脚踏实地”的逻辑？18：逻辑：真理焉？宗教焉？       19：想不清原理       20：想不清原理2

21：逻辑教的改革    22：逻辑教的改革2     23：精确性的终结         24：科学哲学                  25：务外逐物 

26：科学六弊                 27：科学之弊总结

与师生谈科研选题：
1：科研的战略、战术和战斗力 2：选题三准则：趋喜避厌 3：选题三准则：如何培养兴趣 4：选题三准则：择重舍轻，扬长避短

5：得题之关键           6：如何应对新潮      7：选题四建议          8：总结：选题好比找对象

与师生谈研究策略：

1：科研四要素    2：突出重围的法   3：人人信之而善忘的黄金法则  4：孤胆方是英雄，独创才有真才  5：大道至简，科学之魄

6：弃繁就简     7：以特制胜      8：综括               9：反行众道，改形换状       10：迷雾中的灯

11：技穷时的上策 12：驾驭时间之术1  13：驾驭时间之术2     14：保质增产之法          15：类比、联想、猜测、推证 

16：评估       17：总结与回顾

与师生谈学习门径：

1：广度与深度      2：增加深度的窍门1    3：增加深度的窍门2      4：增加深度的窍门3  5：增加深度的窍门4

6：增加深度的窍门5  7：增加深度的窍门6        8：如何培养直觉和想象力？ 9：基础不好，死路一条？10：阅读策略1

11：阅读策略2      12：博览之术           13：增强记忆1          14：增强记忆2      15：如何听讲 

16：最佳捷径

与师生谈科研输出：

1：论文写作五要点 2：论文的结构、条理和语言 3：标题、摘要、引言、结论  4：作学术报告四建议  5：与编审人员打交道

与师生谈科研道德：

1：何谓弄虚作假              2：何谓剽窃？             3：何谓自我剽窃？               4：版权

5：谁该当作者？              6：署名顺序怎么定？        7：其他学术不当行为              8：总结