博文
维纳的猴掌
|||
维纳（Norbert Wiener）的猴掌
——《人天逍遥：从科学出发》读书笔记2.3
《人天逍遥：从科学出发》第二篇《黄禹锡、“无纸办公”与猴掌》一文的最后，提到了维纳提到的故事，关于猴掌的；不懂，就搜索了一番，找到了答案。
这是维纳在《控制论》中的一个故事：
一个退休的英国工人与他的朋友，一位从印度来的少校军官闲聊时，少校给他看了一个样子象枯干的猴掌的护身符。少校说这是一个印度圣徒送给他的，这猴掌可以满足三个所有者中每一个人的三个愿望。寓言的本意是说向命运挑战是愚蠢的。
少校说他不知道第一个人的头两个愿望，只知道最后一个愿望是死。他告诉他的朋友，他自己是第二个所有者，但是不愿说出他自己的恐怖经验。少校不希望有人再受其所害，将猴掌投入火中，但退休工人将它从火中取出，打算试试它的威力。
退休工人说出的第一个愿望是要两百英磅。话音刚落，便有人敲门。敲门的是他儿子公司里的一个雇员。来人通知退休工人他的儿子刚被机器轧死，公司虽然不愿承 担任何责任，但是支付了两百英磅的抚恤金。悲痛欲绝的父亲喊出了他的第二个愿望：“让我的儿子回来吧！”第二次敲门声响，破门而入的是他儿子的鬼魂。他的 最后一个愿望就是让儿子的鬼魂走开。
维纳用这个寓言说明智能机器可能会在未来给人类带来意想不到的灾难。当你赋予智能机器某种功能时（例如让机器像人一样通过学习变得更加聪明），这机器可能会同猴掌一样曲解人类的意图，人类将会发现最终是鬼魂在敲门[3]。
作为工科人，我很不乐意承认自己属于玩猴掌的人，因为我经常觉得新技术是推动人类走向幸福生活。
但不得不直面并思考这个问题：科技在什么时候是维纳的猴掌？
============================= 关于博主 =============================
博主的主要兴趣是：知识管理；相关兴趣有：语义网、机电及DIY、哲学与心理、信息安全、科幻等。我的常用博客在科学网（访问可点链接，下同）；新浪微博是@outcrop，欢迎互粉；建了一个超级QQ群：17662971，希望能闲聊无白丁，欢迎加入；自己打理着一个机电工程师小网站，欢迎来玩。无宗教信仰，提倡动物保护。最近在科学网关注“科学网大学”，欢迎加入科学网大学群组讨论、尝试。
https://blog.sciencenet.cn/blog-1750-556112.html
上一篇：鸡是如何保持脑袋不动的？
下一篇：一些单片机C51源程序
