shaopenghan的个人博客分享 http://blog.sciencenet.cn/u/shaopenghan

博文

机器人三定律的矛盾

已有 444 次阅读 2020-3-4 11:34 |系统分类:观点评述|关键词:学者| 人工智能, 机器人

机器人三定律提出以来,倍受人工智能爱好者的推崇。其背后矛盾的地方,似乎被忽视了。

机器人三定律是软约束,而不是硬约束。这就像法律条文规定,官员不能贪污,但还是会有人贪污。机器人若拥有了智能,其思想行为是自主的,我们无法对其信息系统设置硬性约束, 更大的可能也是设置法律规则和惩治条款,对违反规则的个体加以惩罚。

需要强调的是,当前的计算机还没有实现真正的智能,仅仅是半自主,没有偶发信令,这样的计算机是可以通过代码把程序写死,成为硬约束。未来如果实现了真正的智能,计算机能够产生偶发信令,那么它会有更好的创造力,也会变的不那么听话,就像家中小孩或者小猫小狗那样,既会有奇奇怪怪的想法、行为,也会有不听话的时候。这是大脑的基本特性,人工智能为什么不呢。

另外很重要一点,是否会对人或者机器人带来伤害,本身就是模糊的。是否有伤害,对哪些个体有利,对哪些个体有害往往是不明晰的,更多时候面临的选择是对一些个体有利而另外一些个体是伤害。对于人来说,在于选择,对于机器人也是如此。

未来若出现人机共存的社会,机器人三定律背后更应该是一整套法律制度,软约束根本无法避免机器人伤害人,惩戒制度是必要的。能做到的是降低伤害,而无法做到完全避免伤害。

只是将来,机器人能够伤害人这个事实,人们如何接受会是个问题。

 




http://blog.sciencenet.cn/blog-3408518-1221716.html

上一篇:科学之树上,低矮的果实摘尽了吗?不,这依然是低处的果实
下一篇:人类文明会衰老吗?

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2020-5-31 21:26

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部