twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

AI没有是非观的原因

已有 354 次阅读 2024-10-7 15:50 |个人分类:2024|系统分类:科研笔记

人工智能没有价值观的原因主要可以归结为只有数据驱动的被动性相关算法,没有主动干预性及其反事实关系:(1)数据被动驱动AI的学习、分析、预测只依赖于大量的数据,并通过模式识别和统计分析建立关联。而这些数据本身可能包含偏见或错误,因此,AI的输出仅反映数据中的被动相关性、趋势和关系,并不意味着AI理解这些信息的伦理或价值。(2)缺乏意识和理解AI系统没有意识、情感或主观体验,无法理解或形成价值观。它们只能执行程序和算法,没有自我意识或情感,无法理解什么是“对”或“错”,它可以处理和分析数据,但不具备道德判断能力。AI不具备进行反事实推理的能力,无法考虑“如果……会怎样”的情境,进而限制了其在复杂决策中考虑伦理和价值的能力。(3)目标导向AI的设计通常是为了完成特定任务,如分类、预测等,缺乏全面的价值框架。AI的目标由开发者设定,系统本身不会主动形成独立的价值观,即只会定量、定性而不会定向,即它们遵循算法,而不是伦理框架。(4)缺乏反事实推理AI无法进行反事实推理,不能想象不同选择可能带来的后果,因此无法对行为的后续(如伦理、法律)影响进行深入分析。(5)依赖人类输入AI的决策和输出往往反映了训练数据中的人类价值观和是非观,若这些数据中存在偏见或不公正,AI的判断也会反映这些缺陷。因此,AI本身没有内在的价值观,而是复制和放大了人类社会的既有观点或部分常识。

因为缺乏意识、情感、道德判断和反事实推理能力,人工智能不能也无法自主形成价值观,它操作的基础是数据和算法,仅能在预设框架内运作。因此,在应用AI时,必须由人类负责任地引导其使用和决策,以确保符合伦理标准和社会价值。一句话,AI没有是非观是源于它是且只是一个机器。

mmexport1565970688761.jpg

人机环境系统智能-超越人工智能2.jpg



https://blog.sciencenet.cn/blog-40841-1454138.html

上一篇:兵棋推演与人机环境系统智能
下一篇:人工智能与虚假信息
收藏 IP: 123.119.249.*| 热度|

3 郑永军 朱林 许培扬

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-10-10 02:23

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部