张鹰的博客分享 http://blog.sciencenet.cn/u/yingzhang1 一个留守儿童的中产路

博文

2.28 自动驾驶面临外在的、非技术性的挑战与困难

已有 2877 次阅读 2021-6-21 16:00 |个人分类:科技3|系统分类:观点评述

当讨论机器学习与大数据时,一个畅想的未来应用场景便是汽车的自动驾驶,人们甚至猜测自动驾驶或许是比汽车取代马车更加重要的技术性变革。IBM的深蓝打败国际象棋冠军后的二十年间,人工智能的领域取得了突飞猛进的成果,谷歌的阿尔法围棋打败了世界冠军李世石,成为展示人工智能优越性的一个里程碑。频繁出现在新闻中的自动驾驶尚未达到“千呼万唤始出来”的状态,暂时存在于一些高科技企业的试运营中。如果不从内在的技术实现的难易程度来看,自动驾驶又面临着哪些外在的、非技术性的挑战与困难呢?

关于某项科技的难以实现,研究可控核聚变的科学家们给出了一个有趣的自我调侃的笑话,“五十年前、我的导师就说过三十年后可控核聚变就会实现”,结果当然是一直到现在都没有实现。自动驾驶的技术一直在测试中,也已经在路上试运行,并非是可控核聚变一般的“虚拟现实”。打个不太准确的比方,可控核聚变的技术难度大约就是从零的一的跃迁,需要理论或者实验的质的突破;自动驾驶因为安全的考量,更像是从95%99%99.9%等等不同程度的改进。由于自动驾驶有人机交互的影响,涉及到人的生命安全,所以从安全角度需要全面而深入的考量;但是自动驾驶同样也是一项蕴含科技创新的商品,那么也便需要考虑经济方向带来的利益与以及付出的成本和代价。

自动驾驶的安全性关系到生命,生命的价值对技术的采用、经济秩序、商业操守等方面都有深远的影响。我们通常都认为生命是无价的;在现实发生的一些事故中,的确给出了生命受到损害时的赔偿金额与标准。著名的福特的平托汽车车型(Ford Pinto)所涉及的商业伦理(business ethics,商业操守)在法律和道德上都具有深远的影响。福特平托汽车公司的备忘录显示,公司的工作人员进行了经济学最常见的成本效益分析(cost benefit analysis:改进每一辆出厂汽车的一个设计上已知的缺陷的总成本,高于因为偶尔因为事故造成生命死亡的赔偿金总额,所以福特公司决定不修正汽车的设计缺陷,后来的若干次诉讼都对这种漠视生命的行为进行了赔偿性罚款[1]。我们看到这种直接把生命当成了经济数字的行为是不道德的,也是法律应该禁止的。当然一定程度上,由于这种判罚,对汽车行业的新技术的采用产生了一定的负面影响。美国的一些新闻中报道,父母将子女或者宠物遗忘在后座而热死的悲惨事件。汽车公司应该具有技术能力,通过安装传感器探测后座的生命,而在关门前发出警告,但由于需要承担偶尔因为故障导致的生命受到伤害的巨额的赔偿(或者虽然可能是父母的疏失,但依旧可能采取的的漫长的法律诉讼),所以并不会在汽车上采用这种配置。最后的解决方案就是没有技术创新,美国的家长们通过在后座放置常用物件,比如手机钱包等提示自己关门前进行后座的检查,减少此类事故的发生。虽然有一些副作用,但是关于福特平托车的一系列法律诉讼警醒着研发人员需要持续提高车辆的安全性能。

由于涉及到生命安全,所以研发的公司对自动驾驶的技术也需要谨慎。机器学习的先进算法在文本翻译中已经取得斐然的成绩,日常辅助用来搜集和阅读外文资料,不必追求高精度,但是如果翻译重要的商业合同,一般依旧依赖于人工翻译,因为对错误的容忍度小很多。安全关系到生命,必须估算不同的风险程度。不同的人群对风险的接受程度有很大的不同:已经患有绝症的人,会愿意去尝试一些试验中的新药,或者死马当做活马医般抱着一丝最后的希望,愿意碰运气;但是健康的有稳定收入的人,很少会志愿去碰运气去做新药的临床试验对象。汽车驾驶的角度也是类似的,普通人或许愿意在实验环境尝试一下自动驾驶的新技术,第一个吃螃蟹,但是很少会愿意将日常的驾驶任务交由或许还不够完美的自动驾驶。甚至一些调查的受访者表示,他们表达了对与自动驾驶的汽车共享道路的关切与担心(concern);如果不采取妥善的监管,当事故发生以后,人们可能反而会拒绝自动驾驶这种新兴技术[2]。根据谷歌自动驾驶公司Waymo的在官方网站公布的20212月的安全报告:Waymo总共进行了超过2000万英里的实际道路测试[3]。实际上2000万英里仅仅约等于2000个美国人一年的驾驶里程,而美国的汽车保有量平均为每户一辆。即便2000万英里的里程只发生两次车祸,约等于每年每千人发生一次车祸,但是扩大到1亿人使用,则可能一年内产生10万次事故,尽管比人为错误导致的事故率低,但是这涉及到关于机器人与人之间产生冲突时的法律伦理,需要区分权责。

自动驾驶的推广必须考虑到与人产生意见冲突时的权责分配的问题,但是由于没有达成共识的机器人伦理,导致理清自动驾驶的权责的问题尚无定论。在科幻作家阿西莫夫撰写《我,机器人》(据此改编的电影有威尔·史密斯主演的《机械公敌》)等短篇小说时,创作了如今广为人知的机器人三定律,“一、机器人不得伤害人类,或者不得置人类于危难中;二、机器人必须服从人类的命令,除非与第一定律冲突;三、机器人可以在不与第一、第二定律冲突情况下维护自身存在。”在科技公司宣传自动驾驶的时候,一个通常被使用的统计证据大致表达如,“XX%以上的交通事故都是人的错误引发的,未来技术的自动驾驶可以大幅减少人为的错误”。但未来肯定也有抵制自动驾驶技术的人,更倾向于手动驾驶汽车,与自动驾驶相撞发生了事故该如何处理?如果人类驾驶汽车发生了机械故障,导致突然变道而马上将要高速碰撞到自动驾驶汽车,而机器无法提前预警规避,只能选择以最小的代价进行碰撞,以保全自动驾驶汽车乘客的安全,结果造成了人类驾驶员的重伤残疾,那么这起交通事故由谁负责?因为与人产生了利益冲突,单个的自动驾驶软件或机器人,是否可以作为法律主体(legal person),是否承担责任,承担多少责任,都需要大众的参与与沟通,最后形成法律条款。往常的文字处理或者图像处理软件使用条款往往只需简单地阅读并同意即可,但是自动驾驶技术的法律条款需要细致考虑。这一形成道德与法律共识的过程,或许很漫长,可能对自动驾驶技术的短时间内的推广造成了阻碍,但是鼓励长期研究提高安全性。

人们对与生命的尊重,还体现在因果的追求。如果发生了谋杀案,受害者家属与朋友都想要知道作案动机或真相,所以推理小说与探案剧一直在大众中流行;发生了非自然死亡,关注的人们渴望知道造成死亡原因(如日剧《非自然死亡》);发生了意外事故比如火灾等,大众也都需要消防队员调查原因。自动驾驶技术使用过程中涉及到交通事故,也需要调查取证,判断是否是人工智能的故障。在双方都使用自动驾驶技术时,由于互相之间沟通协调,可以减少交通事故的发生,但是只有一方使用自动驾驶技术时,情况产生了巨大的变化。谷歌的人工智能AlphaGo是下的明棋(perfect information,完美信息),而类似德州扑克牌的比赛则是有隐藏信息的牌局(imperfect information,非完美信息),自动驾驶需要从有限的观测数据判断人类驾驶员的动机,从而在事故之前做出预判,这样是否有可能有预测错误?在发生事故时,为了公平需要第三方调查员检查源代码,以及驾驶数据,才能更好地监管与分析事故原因[2], 这样也便于定责。计算机图灵奖得主朱迪亚·珀尔在一次采访中强调,要建造真正的智能,需要教授他们因果分析[4]。科学研究中有不少偶然因素,比如爱迪生发现了灯泡的钨丝;大数据在物理上运用,通过相关性相似性寻找新材料,可以直接采用推广商用,留待其他科学家去研究机理;但是自动驾驶的安全驾驶与因果分析则较难分离。如今的深度学习的算法广泛运用于人工智能,类似黑盒一般,研究人员甚至都难以判断为何算法做出了某项决定[5]。更让问题雪上加霜的是,计算机黑客可以愚弄人工智能的算法,使其判断错误[6,7]。这样,如果深度学习算法的自动驾驶出现事故以后,因为有太多的参数,很难通过诊断调查原因,所以也难以进行修正与改进。

上述的自动驾驶的挑战更多关于安全性与生命相关,但是一种创新技术的采纳还有经济效益的分析。如果没有影响生命的情况下,成本效益分析是很有用的:如果一项新技术将良品率从90%提高到99%需要花费原成本价的20%,但是剔除次品的检测费用只是成本价的1%,那么这项新技术便是没有经济效益的(成本20%>9%+1%),除非次品占用的库存成本很高。从经济的角度来看,自动驾驶面临着怎样的挑战呢?我们可以做一个假设性问题,如果自动驾驶技术真的完美了,你能在车里做什么?这样的活动其实类似于平常在家或者在办公室的日常,观看网络影视剧、读电子书、浏览新闻、打游戏,或者在车内办公,进行文档处理。你发现没有,这样的活动行为都是与IT或者信息技术公司有关的,比如脸书的新闻与社交、谷歌的youtube视频,网飞、微软的办公软件与游戏、亚马逊的电子书。从消费者的角度来看,的确是提高了时间的利用效率,更多了休闲时间。但是这些自动驾驶附赠的经济活动对于汽车公司等硬件服务商并无助益,反而是对信息技术公司的软性的消费行为的补贴。当然传统汽车公司可以通过增加售价获得盈利,但却没有获得自动驾驶的附加值,反而汽车公司很可能要承担一些硬件问题导致的赔偿责任。优步汽车公司在撞死人的事故后停止了自动驾驶技术的研发,但也可能因为看到了研发付出的资金投入难以短期收回,而且对核心业务无法产生盈利与协同作用(synergy),比如优步外卖在美国疫情期间得到了大力支持。相反的,谷歌的自动驾驶Waymo则可以对流媒体的Youtube等其他分公司产生助益与引流。笔者猜测,如果自动驾驶的研发在三五年内若没有技术性突破,很有可能传统汽车公司与信息技术巨头在自动驾驶的方向上分道扬镳。人类难以监控半自动的系统,而且很容易分心,在驾车时需要保证驾驶员的注意力[2]。在自动驾驶预判事故将要发生时,也无法迅速要求切换为人工驾驶,因为人有一定的反应时间,尤其在危险的情况下。这样全自动与半自动技术路线间便有较大的差异,信息技术公司可能依旧追求全自动,而传统汽车公司追求增强安全驾驶的硬件配置。从全社会的角度看,被自动驾驶取代的出租司机、货车驾驶员等就业税收也都是一些经济学上需要考虑的问题[5]

自动驾驶技术如果能够成为一个划时代的创新,改变人类社会的活动模式,这当然是极好的;然而自动驾驶也面临了很多非技术性的,涉及到社会中每个人的一些伦理、法律的共识的形成,所以也需要普通人的广泛参与的讨论与沟通。从经济角度分析,它是否对传统汽车公司有很多的增益,也将决定未来信息技术公司与传统汽车公司合作或者竞争的模式。保持合理的监管,用合适的技术推进的步伐,可以更加安全地享受科技带来的优势。

引用文献:

[1] 维基百科,福特平托车型2021621日最后访问。

[2] 乔安·克雷布鲁克,肖恩·吉尔达尔,自动汽车,没有司机…,没有监管?,科学,361卷,36页,2018年。Claybrook, Joan, and Shaun Kildare. "Autonomous vehicles: No driverno regulation?." Science vol. 361, (2018): p. 36.

[3] 谷歌的Waymo子公司的的安全报告,2021621日最后访问。
[4] 凯文·哈内特,建造真正的智能机器,教会他们因与果。量化杂志,2018年。Hartnett, Kevin. "To build truly intelligent machines, teach them cause and effect." (2018). Quanta Magazine, May 15, 2018,2021621日最后访问。

[5] 艾希丽·努恩斯,布莱恩·雷默,约瑟夫·考福林,人比如保留对自动汽车的控制,自然,556卷,169页,2018年。Nunes, Ashley, Bryan Reimer, and Joseph F. Coughlin. "People must retain control of autonomous vehicles." Nature vol 556. (2018): 169.

[6] 马修·哈特森,黑客可以轻易地戏耍人工智能,科学,361卷,215页,2018年。Hutson, Matthew, Hackers easily fool artificial intelligence, Science vol. 361 (2018), p.215.

[7] 凯文·哈内特,机器学习正面应对房间里的大象,量化杂志,2018年,Kevin Hartnett, Machine Learning Confronts the Elephant in the Room. Quanta Magazine, Sept 20, 2018.




http://blog.sciencenet.cn/blog-3116575-1292104.html

上一篇:2.27 农业发展六:农业与服务业的结合,农忙农闲的缓冲
下一篇:2.29 自动驾驶、智慧交通的需求与应用场景

3 李宏翰 童华 晏成和

该博文允许注册用户评论 请点击登录 评论 (6 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-10-17 14:03

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部