complexityworld分享 http://blog.sciencenet.cn/u/pb00011127

博文

柔软的是人心,不是算法 精选

已有 5708 次阅读 2020-9-10 09:31 |系统分类:观点评述

最近两天在热搜上霸榜的,居然不是明星绯闻,而是一款用于估计外卖送到时间的ETA算法(Estimate Time of Arrival)。坊间认为这是一个冷血的算法,对骑手的送达时间要求极为苛刻,导航系统还推荐了一些逆行的路线,是导致骑手交通事故的背后推手。“饿了吗”快速响应,推出了一个消费者可以用的“多等五分钟”按钮,期望掌声响起来,结果被骂成筛子——那句“系统是死的”似乎坐实了公司研发冷血算法却把矛盾甩锅给消费者和骑手的巫毒之心!一些新闻界的朋友们找到我,希望我从专业的角度谈谈这个问题,遗憾的是我只能从非专业的角度谈两个浅显的观点[1]

 

一、算法本身并无善恶,但算法背后或有恶意。我经常听到一种声音:大数据杀熟了,人工智能算法作恶了……这个说法是不准确的,因为数据和算法就如同材料和工具,本身并无善恶,苛责大数据、人工智能这类明显能够带来社会福祉的技术是保守且可笑的,就好像因为某人持利刃杀人而怪罪现代炼钢技术。本文的主人翁,ETA算法和导航工具,目标是提高送达效率,也没有包含直接的恶意。我猜测导航算法会利用骑手门的骑行轨迹进行学习,高效送达的路线会被当做学习的范本,至于这个路线是否包含闯红灯、逆行、抢道、超速等等违章,我不清楚,从目前新闻曝光的情况来看,学习的结果里面是有不少违章的。如果这是公司的疏忽,我认为这个问题是很好解决的,因为现在高德、百度都有各种违章和单行道的提醒,不管自己建设还是花些钱寻求合作,在地图层面的技术都是成熟且开放的。因为这种疏忽对于专业人员来说太不应该,所以我个人猜测,这背后是有恶意的——企业应该是心知肚明骑手会有各类违规,但是算法没有惩罚违规[2],只是惩罚超时,并且在导航推荐中还出现违规路线。在企业心中,命还不够贵,所以算法显得冷血。

 

二、宽容能够缓解眼前矛盾,发展才能解决长远问题。网上对于“饿了吗宽容键”骂声一遍,一是说把矛盾甩锅给消费者和骑手,二是说这样骑手会最后送给宽容者,导致宽容者最吃亏。这两个意见都很深刻,我也非常赞同。不过,有一个“宽容的选择”既能帮助骑手,也可以给消费者带来更好的体验。作为一种社会化的动物,人类有释放善意的需求,而且这种行为会让我们缓解压力,并带来快乐和满足的感觉[3]。如果一个键就能释放善意,或许消费者会变得更饿,外卖也会变得更香。如果这次大讨论能够让消费者在选择差评和退款的时候更多考虑骑手的不易,那么算法可能会因为评价不那么苛刻也变得更加宽容。但是,宽容不能实质上解决问题。很多年前有一个关于非法开采煤矿的报导我印象很深,大概讲的是一个地方有很多非法采煤,下井后安全得不到保障,常出死亡事故,也没有足够的防护,很多工人将来会得尘肺,采煤对本地环境破坏也非常厉害。这样看,本地人应该很抵制这些非法煤矿,但奇怪的是,本地人反而对抗督察和执法的人,他们都想下井,有的还要找关系送钱才能拿到“下井指标”。我记得当时采访了一个刚从井下上来的工人,也提到安全、健康、环境等等问题,然后问到了他选择下井的原因,他很木讷,不善言谈,就说了一个字:“穷”!所以,如果我们有一个“善意的算法”,禁止骑手一切交通违规,派单强度和送单要求也显著下降,从而可以更好保护骑手安全,我估计很多骑手不一定说好,因为他们可能会因此少挣钱。大家冷静想想就知道,一些骑手超速逆行也不是系统指派的,而是自己要抢时间多挣点钱,我是亲耳听过三个骑手攀比送餐速度和方法,他们的速度是远远超过系统要求的。如果我出生在一个山坳,初中毕业就外出打工,靠着多流汗养活一家老小,希望父母老病能得照顾,希望孩子不重复自己的路,那当我在路边摔倒的时候,也会紧紧保护好盒饭。骑手的境况并不好,但又好于那些冒着生命和健康危险非法采煤采矿的工人,后者现在很少了,是因为中国的社会经济在往前发展。我们继续发展,一线劳动者的待遇变得更好,社会保障机制更完善,教育和医疗上的焦虑更少,有些问题才能得到真正解决。

 

最后,我提两点建议,喊一句口号。【建议1】希望企业能够重新设计算法,惩罚交通违规行为,从而引导骑手保护自己的人身安全。但企业要有让利的心态,要保障这个新算法平均而言不降低骑手的收入。【建议2】希望消费者多一点宽容,如果骑手没有主观恶意且没有造成明显损失,要少使用差评、退款等操作,这样可以创造一个更宽容的环境,这样的环境才容得下“善良的算法”。消费者要想想,同样是损失100元,对不同的人带来的影响很不一样。【口号】扶我起来,我要上班,建设祖国,消除贫穷!

 

社会的温暖和人心的柔软,才会酝酿出温暖的数据和柔软的算法。

 



[1] 在媒体眼中,大数据似乎已经是一个不可分割的研究方向,实际上我和数据相关的研究方向是网络数据挖掘(graph mining),与导航差别很大,所以专业上我没有发言权。

[2] 例如骑手选择逆行路线或者人行道,系统立刻扣分罚款,从而反过来引导和保护骑手人身安全,这没有任何技术上本质的难度,因此对这个选项的疏忽是让人惊讶的。

[3] 这方面的研究很多,例如大家可以看看迈阿密大学心理学家Michael E. McCullough的系列研究。




http://blog.sciencenet.cn/blog-3075-1249973.html

上一篇:H++,++,++; H=76
下一篇:从业16年,每年发表的SCI论文数

29 黄仁勇 武夷山 吕建华 李哲 赵凤光 张淑扬 杨正瓴 钟定胜 黄永义 蒋敏强 孙永平 雷洋 彭真明 都世民 任国鹏 姚小鸥 孟佳 崔锦华 刘旭霞 史仍飞 朱朝东 姚攀 王恪铭 赵志宏 周忠浩 刘玉仙 姚伟 白龙亮 陈新泉

该博文允许注册用户评论 请点击登录 评论 (10 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-1-26 21:27

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部