武夷山：《面对大数据和人工智能，我谨慎乐观》：http://blog.sciencenet.cn/blog-1557-1070713.html ：“在科学技术发展上，科学家和工程师主要属于推进者，好比汽车的引擎，社会科学家、人文学者和公众主要属于制衡者和方向把控者，好比汽车的刹车系统和方向盘。”

王立新：科学的进步好像都是由科学家们通过自己艰苦的钻研完成的，社会和人文学者们只有事后评论的份儿，而且基本上说不到关键点上。

武夷山：没错啊，进步是引擎的功劳啊。但是，没有良好的刹车，只往前冲，无比危险。靠科学家自我控制恐怕不可行，他们太想探索了。

王立新：可现实是社会和人文学者们被科学家们的忽悠牵着鼻子走，不但起不到刹车的作用，反而推波助澜，面对万丈悬崖，依然“谨慎乐观”。

   良好的刹车系统，只有靠科学家们自己来创造。

武夷山：能否举一个科学家自我刹车的例子？

王立新：在人类历史的长河中（这方面武老师比我有经验多了），矛与盾都是由工匠们制造出来的（当然有大把文官为了抢功，硬说工匠们制造出的矛与盾是在他们的指导下完成的）；为了制约矛（发动机），工匠们制造出了盾（刹车系统）；为了制约导弹，科学家们开发了反导系统；...；这样的例子不胜枚举。这些例子说明，为了制约一项可能带来危险的技术，只有靠科学家们自己发展一套反制技术，“道高一尺、魔高一丈”，这才是正确的道路；靠文人们所谓的制度制约是行不通的。

   就大数据和人工智能来说，为了制约可能对人类带来的危险，可以开发一系列“人工智能病毒”，当机器对人类造成危险时，人类有强有力的反击手段。

   科学家们不但喜欢制造矛，而且有同样的激情制造盾。只是不太同意武老师文中所说的社会人文学者和公众是科学发展的制衡者和方向把控者。科学是一项艰苦的事业，需要很多的基础，需要长期的钻研；科学属于科学家们。

武夷山：加油与刹车的关系，同矛与盾的关系完全不是一回事。

王立新：加油是向前冲的矛，刹车是阻止矛向前冲的盾，这是典型的矛与盾的关系呀。

武夷山：您现在的观点的本质是：科技产生的问题，只能靠科技来解决。

   事实上不是这样。比如，洗衣粉之类产品的大规模应用，导致河湖富营养化污染。发明出无磷洗衣粉之类的对策，都是技术对策。但只要洗衣粉在大规模使用，新型产品一定带来新问题----大规模应用必然带来顽疾，这几乎是定理。技术带来问题，再用新技术解决，好比狗追自己的尾巴，追不上的。

   能否设计出不提倡大规模应用的社会制度，或是消费者自觉为了保护环境而牺牲自己的舒适性，这类措施才是治本之道。这方面的措施都属于社会科学与人文学科的范畴。

   上海交大江晓原教授2007年10月8日在文汇报发表文章，以下是该文的一部分，供参考：

   三大误导之二：科学技术能够解决一切问题

   一些唯科学主义者辩解说：我什么时候说过“科学技术能够解决一切问题”？是的，也许他没有直接这样说过，但这确实是唯科学主义者的一个普遍信念。这个信念有时也被表达成“科学技术将来（或早晚、必将）能够解决（或解释）一切问题”。这个信念还使许多人相信：科学有权凌驾于一切别的知识体系之上。

   在此信念支持之下，我们非常熟悉的一个说法是：“科学带来的问题只能靠科学（进一步发展）来解决”。在以往的唯科学主义话语中，这是一个听起来很“雄辩”的论断。但是这个论断实际上从来没有被证明过——事实上也不可能被证明。

   这里我可以提供一个世俗化的比喻，来说明这个论断的荒谬。我们经常可以在炒股的人那里看到这样的情况：如果这一单他做输了，他说他要继续做下一单，因为他要反败为胜；如果这一单他做赢了，他同样说他要继续做下一单，因为他要再接再厉。所以他每做一单，无论输赢，总能够成为他继续做下一单的理由。也就是“炒股带来的问题只能靠炒股来解决”。“科学带来的问题只能靠科学来解决”的论断其实与此完全相同——不管科学给我们带来的是福祉还是灾祸，都成为进一步发展科学的理由。

   我们不能想当然地相信，科学带来的问题一定可以靠科学的进一步发展来解决。如果科学给我们带来了问题（现在已经有很多了），我们就有必要从科学之外来反思。

王立新：感谢武老师这么详尽的回复，很高兴和武老师探讨这个问题。或许这可以看做一个科学家和一个社会学家的对话。

   作为大数据和人工智能领域的专业学者，每当我看到外行们（非人工智能专业学者，尤其是社会人文学家）对此进行评论时，第一反应是：你懂吗？就敢评论！作为科学家，我不敢对自己不懂的东西妄加评论，可社会人文学家们为什么敢于对自己不懂的东西进行评论呢？我想有两个原因（当然还有其它原因）：（1）模棱两可；（2）无知者无畏。

   关于“模棱两可”，比如武老师文中的“首先是谨慎”。什么是“谨慎”？对于同样一件事情，有人说已经很谨慎了，而另外的人说太冒进了，到底听谁的呢？（听有权有势的！）所以，这样的说法跟没说一样，左右逢源，无法证伪，因此社会人文学者们敢于大胆评论自己不懂的东西。

   关于“无知者无畏”，江晓原教授文章中关于炒股人的描述是个很好的例子。作为通过“人工智能+股票投资”实现过亿身家的我（请参见我在科学网上的第一篇博文：《谁说炒股不赚钱：君子爱财，取之有道，没什么丢人的》：http://blog.sciencenet.cn/blog-2999994-950653.html ），看到这样的评论就知道江教授没有股票投资的经验。无知，所以才说出这样无畏的话。也再次感受到：科学，也只有掌握科学的科学家们才能体会它的力量与伟大。

   武老师说：“您现在的观点的本质是：科技产生的问题，只能靠科技来解决。”这显然是用人文学者们的思维方式来套用科学家。武老师研究科学史，一定知道真正优秀的科学家一定是很开明的，一定不会说解决某个问题只能用某个某个方法（你越深入科学的细节，越感到自己的无知）；科学家的说法是：对于解决这个问题，什么方法最好，就用什么方法；而方法的好坏不是嘴皮子辩论，而是实打实的解决具体问题，看谁的方法最好。

   对于“人工智能可能威胁人类”这个问题，作为本专业的科学家，我给出的解决方案是开发“人工智能病毒”。如果社会人文学者们有更好的方案，请具体地拿出来说一说，不要天花乱坠地说一大堆，也不清楚你的具体方案到底是什么。如果你的具体方案是“适当限制”，那么问题来了：什么样的限制是“适当”？是国家拨款不能超过某个上限？那么这个上限的具体数值是多少呢？当我们具体考虑这些细节时，我们就是在践行科学的方法。科学的伟大，就在于敢于挑战这些细节（魔鬼在细节），而人文学者们只有概念来、概念去，浮在空中。

   武老师说：“能否设计出不提倡大规模应用的社会制度，或是消费者自觉为了保护环境而牺牲自己的舒适性，这类措施才是治本之道。”那么问题来了：这些社会制度是由具体法律条款构成的，而法律条款的细节需要科学的论证--- 转了一圈又回到了科学。拍脑袋的禁止或推进，往往得到事与愿违的结果，这样的教训比比皆是。

   尊重科学，看来任重道远。

   （很高兴和武老师探讨这个问题。能否给出一个具体的方案，和我的“人工智能病毒”比一比？）

武夷山：“科学的论证”，不等于由科学家来论证，显然主要由法学家论证，再听取其他方面意见。人类难题的解决肯定需要跨学科研究得出的方案，不仅仅是自然科学内部的跨学科，还要包括社会科学和人文学科。

王立新：是的！自古就是“劳心者治人、劳力者治于人”；科学家是在社会文人的领导下工作的，这个不服不行！  

武夷山：这个属于规律吧。中央领导集体各人的教育背景，从江泽民时代的工科为主，到目前的法学、经济学为主，是巨大的进步。发达国家领导人几乎都是这样文科专业背景为主的格局。

王立新：是啊，现在高校行政化愈演愈烈，红线越来越多，或许与这个“巨大的进步”有关吧。发达国家领导只是一份工作，与我们不一样。