写在水上的科学分享 http://blog.sciencenet.cn/u/iSci

博文

机器人可能不会威胁人类

已有 5064 次阅读 2010-9-16 01:06 |个人分类:这个世界的美妙晨雾|系统分类:观点评述| 机器人, 进化心理学, 威胁人类

 

  描述机器反叛的电影很多,不赘述。机器人会威胁人类吗?拥有人工智能和自由意志之后,它们太过强大,会征服并统治人类吗?

  从进化心理学的思路来看,答案很可能是:不会。

  征服和统治的欲望,在地球生命历史上,作用是占有尽可能多的资源。占有过分的资源,意义已不在于生存,而在于性选择,也就是占有更多、更佳的交配机会。

  而机器人,没有性选择。

  它们不需要交配繁衍,不需要向异性展示自己的优越,也不需要为一头漂亮的母兽而搏命打斗。

  由此,机器人即使拥有了自我意识,仍不会进化出强烈而广泛的表现欲、占有裕、嫉妒心,以及排他的争夺欲望。因为这一切都是因择偶繁殖而衍生的,机器人不存在这个环节。

  除非,人类刻意向机器人引入这个环节,让机器人通过“性选择”、“同类选择”的机制自我进化,在机器人的研发上省心。但,这是很危险的。

  如果机器人始终没有“性选择”或类似性选择的机制存在,那么可以断定:机器人会很圣洁。机器人的道德水平会远比人类为高。

  可能有人会反驳:执行任务的机器人如果学会“为达目的不择手段”怎么办?这种机器人会很可恨也很难搞定,非常邪恶,但这终究是程序错误而已。是生产事故,而非一个普遍问题。

  只要机器人不进入进化程序,不对它施行生存竞争和择偶竞争,那么它就必然是人类的良友。在它们面前,人类会一再羞愧。

  它们会是这个宇宙的新物种,和我们任何人都可以没有语言障碍,是人类值得依靠的忠实朋友(而且强大)。

  最后的问题?机器人会不会被人类污染?机器人在学习过程中,会不会被人类的独占、掠夺、同类相残的欲望引诱和堕落?机器人中会不会出现“堕落天使”?

  如果是按正常教育和程序制作的机器人,这种概率应该几乎没有。但如果,人类要有意制作出一个这样的机器人,在未来也是完全有可能,而且非常简单。只要在它邪恶时,程序输入几针吗啡,奖励它的大脑神经中枢就可以了。

  人类失去乐园的可能性,或许不是机器人变得邪恶,而可能是机器人被人类“扬善惩恶”的道德法则污染,一个无比强大的计算机网络程序将被它监视的纭纭众生视为邪恶,而加以惩治。

  人类可能不用担忧机器人的邪恶,而要担忧那程序突变、洁白如神的“上帝”。】



https://blog.sciencenet.cn/blog-299155-363488.html

上一篇:Robert Vale:宁可食无肉,不可居无竹
收藏 IP: .*| 热度|

2 唐常杰 罗军

发表评论 评论 (2 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-30 21:05

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部