dsm9393的个人博客分享 http://blog.sciencenet.cn/u/dsm9393

博文

对AI偏见的发问说明什么?

已有 529 次阅读 2020-7-17 08:50 |个人分类:机器人|系统分类:观点评述| 偏见, 科技日报, 技术瓶颈

AI偏见的发问说明什么?

What does asking about AI bias mean?

-----AI未来走向与技术瓶颈

都世民(Du Shimin

摘要:本文主要讨论AI偏见产生的原因?不是单纯的数据集的问题,人工智能机器人的技术瓶颈有关。

关键词:AI,偏见,科技日报,技术瓶颈

 

AI技术偏见产生的原因?

2020-07-15科技日报》刊文:谁才是让AI产生偏见的幕后推手?”半月谈网及诸多网站转载。

http://www.banyuetan.org/kj/detail/20200715/1000200033136211594777664057316540_1.html)文中指出:人脸识别所导致的偏见问题一直倍受关注!这个问题对我国正在推广的人脸识别会带来什么影响?一项新技术投入大范围使用,若出错率超5~10%,对人口众多的国家产生的负面影响是相当严重的。

文中指出:1美国麻省理工学院媒体实验室研究项目显示,人工智能识别浅色皮肤男性的平均错误率不超过1%,识别深色皮肤女性的平均错误率达35%22018年图灵奖得主、AI领军人物杨立昆(Yann LeCun)在推特上指出,当数据有偏见时,机器学习系统就变得有偏见。3现在还没有100%无偏见的数据集杨立昆这一说法产生争议。机器学习系统产生偏见是大数据集造成的吗?与技术模型、算法、人类观念不同、技术瓶颈等有无关联?这一争论由来已久人脸识别偏见问题早就是热点话题。

我们小区每天进出楼门,都有人脸识别,如果戴上帽子,戴上有色眼镜,或者在不同光线的情况下,人脸识别会失效,无法进门。真让人哭笑不得,这样的人脸识别是数据集造成的吗?一个单位几万人,这个数据集不大,可是使用起来却出问题,到底问题出在哪里?出现偏见不能只归咎于数据,人工智能不能离开数据,问题不能都归到数据集上AI学习过程应该与架构、数据、训练算法、环境条件等因素相关。其本身的缺陷和技术瓶颈,也是产生偏见的原因。

中锐网络人工智能产品总监叶亮说:“总体而言,偏见还是源于规则制定者。”笔者赞同这一说法。近期,国际多家机构相继宣布禁用人脸识别技术。这不无道理。影响技术投入使用,新技术不能够产生较大的错误率,就像使用的网络一样,如果不能保证网络的安全,一旦发生事故造成的后果不堪设想,特别是在天灾人祸发生的时候,必须确保使用的新技术万无一失。

2018年夏天,英国媒体就报道过,由于人脸识别技术的误判,导致一名年轻黑人男性被误认为嫌疑犯,在公众场合被警察搜身。克服偏见需要人工智能技术做出什么改进?人工智能的偏见其实都是人类偏见的反映与放大,因此人们放下偏见才是最根本的解决方案。要想真正做到谈何容易?

2017-09-19 ,一篇报道,谁才是AI大潮幕后的推手?文中指出:数据的海量增长,神经网络、深度学习算法的不断更新,越来越多的人工智能产品走入寻常生活。AI 能否完成人类历史上的颠覆式创新,开启人类新时代?60 余年来人们对这个话题一直争论不休。目前 AI 算法不完美,一是算法训练模型只能针对特定领域,通用性差;二是这一代算法必须依赖于数据AI 推理、思考、联想等智力功能与人类智力相甚远,目前,AI 的发展水平整体上只能算是处于微智时代

有研究人员认为,人脸识别已经有从读脸读心的发展趋势人工智能的读心功能目前主要是通过情感计算实现。这一说法有些夸大其词,因为每一个人心理活动很难统一建模,找出全球所有人的喜怒哀乐与人脸数据之间的量化关系,现在根本做不到。从识别身份到识别表情,人脸识别技术需要更先进的计算模型建立人脸图像、视频与心理活动之间的关系。但目前机器人有智商无情商,达到高度和谐的人机共存仍然任重道远。能否实现拭目以待

“人工智能基础研究要取得突破,很有可能需要做长期并且有争议的工作。”人工智能机器人的研究是在宏观层面,脑科学是在微纳层面研究研究者们正从各种视角探索大脑运行机制,研究分析模式有多种,证实相当困难。宏观层面与微纳层面研究之间缺少褳接,不能相互匹配,不能混为一谈

人工智能机器人的研究瓶颈’问题是什么?是情感与情商吗?算法夲身瓶颈问题吗?

(https://tech.gmw.cn/2020-06/24/content_33937576.htm)

人工智能机器人的技术瓶颈

有专家认为,人工智能机器人的技术瓶颈”是:“有智能没智慧,有智商没情商,会计算不会“算计”,有专才无通才。瓶颈问题主要包括:

1)数据瓶颈;

2)泛化瓶颈;

3)能耗瓶颈;

4)语义鸿沟瓶颈;

5)可解释性瓶颈;

6)环境条件的变化

7)可靠性瓶颈。

解决这些技术瓶颈不是一朝一夕能实现的,需要长期的精心设计,不断改进,寻找突破技术瓶颈的方法,特别是在机器智能的问题上,人类本身的智能至今未明,机器的智能谈何容易!

 

 




http://blog.sciencenet.cn/blog-1339385-1242354.html

上一篇:真有“千里眼”吗?---人眼新问〔16〕人眼有千里眼吗?
下一篇:为何多地叫停加油站手机支付!

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2020-9-23 07:00

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部