Skype创始人Jaan Tallinn的新追求

武夷山

Edge网发表了于2015年4月16日对Skype创始人Jaan Tallinn（1972年生）进行的采访。Jaan Tallinn是在爱沙尼亚长大的，是计算机编程专家，他和伙伴们开发的Skype软件，全世界很多人都用过。

多数人创业成功后，就在创业之路上走下去了。Jaan Tallinn则不然，他出了名、挣了钱之后，就开始思考做些什么更有意义的事。最后他选定的目标是：减低人类面临的生存风险。存在风险分为两类，一是自然风险，如小行星撞击地球，一是技术风险，很多新技术的滥用或大规模应用都可能伴随着不确定的巨大风险。

2012年，剑桥大学成立了一个生存风险研究中心（Centre for the Study of Existential Risk），其创立成员除了剑桥大学知名的天文学家（也是著名科普作家） Martin Rees 和哲学家 Huw Price 外，还包括 Jaan Tallinn。他们将集合一批跨学科的人才，针对生物科学、人工智能与气候变化等潜在的生存风险进行研究。这样的非营利组织还有好几个，Jaan Tallinn都为它们摇旗呐喊，比如The Future of Humanity Institute（人类未来研究所，设在牛津大学，2005年成立）、 The Machine Intelligence Research Institute（机器智能研究所，地处美国加州）、The Global Catastrophic Risk Institute（全球灾害风险研究所，成立于2011年），The Future of Life Institute（生命未来研究所，Jaan Tallinn也是创办人之一），等等。

Jaan Tallinn说，他是坚定的结果论者，“我们有责任就自己的行动会带来的结果建模，并采取能产生最佳结果的行动”。

如果说市场机制不足以控制技术风险，那需要什么样的社会结构呢？他认为，回答这个问题还为时过早。拿人工智能（AI）来说，很快将有一个研究纲领问世，它代表着对AI的潜在安全问题忧心忡忡的群体和AI研究界的共识。AI应该是稳健的，意思是，要确保它不会不经意间搞出一个不可收拾的局面，导致灾难。

Jaan Tallinn说，“可纠正性”是很要紧的。现在我们开发技术的过程是迭代式的，每一新“版本”的技术都比老版更好。可是，如果今后的高智能自主系统都能将其创造者（人类）琢磨透了，它们切断了人类对其行使控制的开关，怎么办？

他说，谈到未来之控制，归根结底是哲学问题，道德哲学问题。我们要考虑，当世界上有70-100亿人口时，如何化解其利益冲突？如何计及动物的利益，计及生态系统？对于“我们到底希望长程未来给我们带来什么？”的问题，人类还不知道答案。

博主：中科院自然科学史所刘益东研究员提出的自毁知识其实是从另一个角度谈人类的生存风险。请看以下媒体报道（http://www.chinadaily.com.cn/hqcj/xfly/2014-10-30/content_12625199.html）。

2014-10-30    来源：中国商报   

[提要]  他报告的题目为“成也科技、败也科技—粗放式创新与致毁知识增长导致美国及美国模式的崩溃”。刘益东研究员从讨论美国崩溃或衰落的预言入手，认为尽管这一学术热点研究成果众多(国内外专著超过50本)，但几乎都没有发现美国的“死穴”和“七寸”，没有发现其行将崩溃的真正原因。

　　日前，由中国科学院自然科学史研究所主办的中国科学院科学技术史大讲堂“走进校园”系列·北京大学专场在北京大学人文学苑主学术报告厅成功举行，逾百名来自中科院自然科学史研究所、北京大学、清华大学、中国科学院大学、中国人民大学、中国农业大学、中央财经大学、中科院软件所、遥感所和中船重工714所等科研单位和高校的学生和学者参加了本次活动。这是继清华大学专场之后的科技史大讲堂“走进校园”系列的第二站。讲座由中国科学技术史学会副理事长、北京大学医学人文研究院院长张大庆教授主持，中国科学院自然科学史研究所刘益东研究员应邀作了北京大学专场的第一场学术报告。他报告的题目为“成也科技、败也科技—粗放式创新与致毁知识增长导致美国及美国模式的崩溃”。

　　刘益东研究员从讨论美国崩溃或衰落的预言入手，认为尽管这一学术热点研究成果众多(国内外专著超过50本)，但几乎都没有发现美国的“死穴”和“七寸”，没有发现其行将崩溃的真正原因。美国的外交、军事、政治、金融、文化屡遭国际社会的批评，但是美国的创新、科技及科技企业一直以来是各国争相效仿的楷模，刘益东却通过分析美国科技创新实践

和它赖以称霸世界的核心能力—大规模持续创新能力，得出了新结论：美国粗放式科技创新必然要产生致毁知识，而致毁知识的增长与扩散是不可逆、不可抵消、不可阻止的，必将导致恐怖主义横行、灾难频发，因此美国崩溃的危险是不断累加和递增的，达到一定程度必然会发生毁灭性灾难。从目前科技发展的速度和态势看，在中短期(5～15年)内爆发灾难的可能性极大，而且这种不可逆增长的危险累进方式，使得毁灭性灾难发生的几率越来越大，直到爆发!刘益东指出美国既高度依赖科技发展支撑大规模持续创新，又无法克服、无力承担其内生的自毁因素的增长与泛滥，再考虑在科技风险认识和应对上的误区，考虑美国主流智库对世界和本国面临的最大挑战的误判(认为气候变化是世界面临的最大挑战)，考虑美国坚持丛林法则，考虑已经形成的恐怖与个人恐怖实现系统以及日益猖獗的恐怖活动，就可以判断目前美国凶险的处境了，其结果只能是要么崩溃、衰落，要么转型重组、改弦易辙!他用三步论证了以上结论：科技创新是美国实行市场经济的生命线，更是美国称霸世界的生命线;美国的科技创新是粗放式创新，必然产生毁灭性负面作用，而科技风险研究有重要缺陷;美国无法克服毁灭性科技负面作用及其累积效应。

　　刘益东通过提出致毁知识概念和致毁知识研究模式，以研究致毁知识来深化科技风险的研究，通过提出和解决“在科技知识增长的同时，能否阻止其中的一类破坏力极大的科技知识----致毁知识----的增长?”这一难题，发现有26个原因不能阻止致毁知识增长，充分论证了上述结论，突破了流行的双刃剑研究模式造成的学术僵局，解决了发现与论证的难点。最后他还将著名的囚徒困境与自己提出的动车困境、双刃剑困境、魔戒困境一起合称“囚车剑魔”四大困境，说明美国会不断犯大错、大错误又难以纠正、无法抵消，而且犯大错误的门槛越来越低，在科技创新问题上犯的错误是致毁错误!这是最大的错误，它与四大困境结合导致美国濒临绝境和崩溃!美国崩溃，人类也同样遭殃，美国问题是国际问题，美国的危机与困境也是世界的危机与困境，美国崩溃必将引起世界格局与未来图景的剧变。正确预言美国崩溃将有助于反思和批判当前的主流科技发展模式与主流创新模式，尽快实现从粗放式创新向可持续创新的转变，尽快实现科技转型与产业转型，促使人类真正走上可持续创新与发展之路。刘益东的研究独辟蹊径，思路和结论与众不同，论证有力，令人耳目一新，引起热烈反响。

　　据有关文献介绍，这是刘益东研究员自主选题、自由研究的一项工作，开始于1998年，“致毁知识”及其研究的初步结论等原始想法发表于1999年初，至今已持续研究了16年，发表了一系列论文、论著。他2000年发表的《人类面临的最大挑战与科学转型》获得了“大象优秀科技史论文奖”一等奖，2007年出版了个人专著《智业革命—致毁知识不可逆增长逼迫下的科技转型、产业转型与社会转型》。其研究成果和观点被多次转载和引用，多次受邀参加学术会议和学术演讲。今年他又发表了《致毁知识与科技危机：知识创新面临的最大挑战与机遇》和《试论粗放式创新、致毁创新、可持续创新理论与知识安全学》两篇论文。

　　刘益东研究员强调这是一项发现性的工作，揭示的是客观存在的事实，他只是先于其他学者做出了发现而已，如果他研究的结论成立或基本成立，不仅将影响科技政策、科技发展模式与创新模式，而且对相关的主流理论和思潮都会有所冲击，对主流经济学和管理学都会有所冲击，因为主流经济学和管理学研究的创新是现实当中的粗放式创新，近年来开始出现的负责任创新的研究虽然注意到了现在的创新是不负责任的创新，但是并没有真正认识到粗放式创新的核心症结。基于多年来的科技风险与致毁知识增长研究，刘益东首倡“低危技术与低危经济”和“低碳技术与低碳经济”并举，全面解决科技危机和环境危机，促进人类社会走上公平正义的可持续创新与可持续发展之路。

参考资料：http://edge.org/conversation/jaan_tallinn-existential-risk