shaopenghan的个人博客分享 http://blog.sciencenet.cn/u/shaopenghan

博文

强人工智能与弱操控性

已有 673 次阅读 2021-9-13 12:22 |系统分类:观点评述

现在的计算机只是半自主的,我们可以很方便地拷贝信息、安装软件、编程、给出各种指令,其自主权掌握在操控的人手中。

如果未来实现了强人工智能,计算机是自主的,拥有自主意识,我们对其控制将会弱化。

自主意味着偶发和不确定性,它可能会接受人们的指令,也可能不接受,甚至还可能出现反叛。比如基本的信息传输、指令的执行的都需要计算机自己同意才能执行下去,若它不同意或者是逆反的,那么这些最基本的操作都是无法做到的。因为计算机本身是自主的,它自己掌控这些权限。

强人工智能计算机将展现出不同于当下的局面,制造出来后需要有一个培育或者说是训练过程,通过学习让其具备相关能力,同时也会有筛选过程,淘汰叛逆、能力不合格的个体,筛选出合格的乃至极其出色的天才个体。这些与人类社会的教育培训非常相似。

强人工智能的自主性使人们对其控制弱化了,由偶发推动个体的自主演化也让其呈现出多种可能和多样性,筛选变得十分必要,在后续使用过程中的监督也需要强化。

从弱人工智能的强操控性,到强人工智能的弱操控性,计算机会越来越接近人的许多特点,这本身就是智能的样子吧。


或者出现双重控制特性的人工智能,可以允许它有自主意识,也可以取消成为半自主的,或者在其自主运行的基础上由人给予纠偏、共管,不知道意识层面能不能做得到,是否可实现。




http://blog.sciencenet.cn/blog-3408518-1304002.html

上一篇:以进化和熵减统一自然科学和社会科学
下一篇:人的进化中被忽视的部分

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-10-17 02:13

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部