|
(这里暂不算DNA,其自主成分太少,主要讨论大脑以及未来的计算机)
自主信息系统极有可能整体就是个黑箱,即便开始不是个黑箱,自主运行或者演变一段时间后,一部分个体也可能会变成黑箱。
当前的计算机之所以不是黑箱,是因为人们可以非常方便地通过键盘、鼠标、显示器查看计算机中的信息,其实这些键盘、鼠标、显示器跟人的眼睛、耳朵、嘴巴一样,都只是信息交流的途径。如果将来的人工智能是自主个体,突然有一天产生了一些想法,不在显示器上显示自身的信息,或者对键盘鼠标输入的指令充耳不闻、不听指令了,这可就要了亲命了,不是黑箱也成黑箱了。
只要人工智能是自主的,都免不了会出现叛逆、反叛、不听话的情况。
会不会有另外一种可能,这个人工智能计算机拥有两套操作系统,一种比较高级,是自主的,另一种比较低级,可以让人查看上面的信息,从而实现强监管。
只恐怕难以实现。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-11-24 11:00
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社