|
作为信息过滤系统,人工智能(AI)推荐工具正在各行各业广泛使用。然而,人们普遍认识到它们的负面影响,包括它们限制了选择的事实。这项研究着眼于导致这些负面影响的原因,人工智能推荐工具会根据你经常浏览的产品、视频等,推测出你的偏好,来推荐相应的内容。久而久之,你能看到的内容就慢慢地受到了局限。这种负面影响称为“信息茧房”。
“信息茧房”指主动或被动地关注自己感兴趣的信息,久而久之形成信息的壁垒,人们就会将自身桎梏像蚕茧一般的“茧房”,即形成“信息茧房”。 (图片来源:bing) 人工智能(AI)推荐工具被广泛应用于电子商务、媒体、银行和公用事业等行业。该工具的算法利用网站访问者过去的在线活动和其他数据(包括隐式的和显性的),来预测访问者下一步想要查看或购买什么,然后将这些选项呈现给他们。这是非常有益的,例如,对于顾客来说,推荐人可以根据他们的口味和需求提供定制的选择,从而节省他们的时间。而对于公司来说,它可以鼓励消费者在其网站上花更多的钱,并提高客户忠诚度。以流媒体巨头Netflix为例,据估计其推荐引擎每年产生10亿美元的收入。 来自中国、芬兰和韩国的一组研究人员开始揭示这些人工智能工具的潜在负面影响。来自江西财经大学的作者陈思华解释道:“任何事物都有两面,随着人工智能推荐系统在我们生活中的渗透,其负面影响正变得越来越明显。”他们的研究结果发表在期刊Journal of Management Science and Engineering上。 Image: The empirical model built by the research team. CREDIT: Wei He. 在回顾了之前的研究之后,该团队建立了一个实证模型,揭示了客户的偏好如何影响他们的购买决定,以及人工智能推荐在这个过程中扮演的角色。他们对探索互联网的“信息茧”现象特别感兴趣,当面对网上大量的信息时,人们往往只看到自己想看的东西。 研究人员使用中国两大在线购物平台京东和淘宝进行了两项实验。来自韩国釜山国立大学的作者Jian Mou表示:“我们发现人工智能推荐增强了信息茧效应。换句话说,人们看到他们想看的东西,然后网站的人工智能推荐算法根据这些偏好为他们选择内容。这对客户购买决策的质量产生了负面影响。” (图片来源:pixabay) 论文作者之一、芬兰Jyvaskyla大学的Mikko Siponen补充说:“与许多其他新技术一样,人工智能推荐是一个意想不到后果的来源。我们的研究结果对消费者,尤其是电子商务行业的消费者具有重要意义——如果他们想要独立做出购买决定,他们需要避免人工智能推荐工具的压倒性影响。” 文章信息 When more is less: The other side of artificial intelligence recommendation Sihua Chen,Han Qiu,Shifei Zhao,Yuyu Han,Wei He,Mikko Siponen,Jian Mou,Hua Xiao 期刊简介 Journal of Management Science and Engineering (JMSE)由国家自然科学基金委员会、科学出版社和天津大学共同主办,是一本具有中国自主知识产权的、高起点的管理科学综合性国际期刊。 JMSE致力于发表社会与经济系统建模、复杂管理与经济系统、商业分析与管理、运作管理与工业工程、供应链与物流管理、信息系统与电子商务、金融工程与风险管理和交通运输管理等管理科学与工程研究领域基础理论和应用研究方面具有创新性、高水平和重要科学意义的最新研究成果。 目前JMSE已被DOAJ、INSPEC、Scopus收录,被国家自然科学基金管理科学部列为A类重要期刊,也作为具有中国自主知识产权国际期刊中最年轻的期刊进入《FMS管理科学高质量期刊推荐列表》OR/MS领域的B类期刊。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-12-25 16:45
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社