武夷山分享 http://blog.sciencenet.cn/u/Wuyishan 中国科学技术发展战略研究院研究员;南京大学信息管理系博导

博文

英国邮政的这些员工冤不冤? 精选

已有 4079 次阅读 2024-1-26 08:40 |个人分类:鼓与呼|系统分类:观点评述

英国邮政的这些员工冤不冤?

武夷山

 

过去,一些国家法律部门的缺省假定是:计算机不会出错。有过这么一桩典型案例:计算机出错导致邮政业务出现问题时,邮政员工就背了锅。

20多年前,日本富士通公司为英国邮政( UK Post Office)设计安装了名为Horizon的会计软件系统。任何新的IT系统在初期都会错误百出,Horizon也不例外,但它出的错往往是大错。比如该系统在日末结算后会说,邮政员工没有向系统提交足额的应入款项(Horizon IT system told members of staff that they were not depositing enough money at the end of a day’s trading. ),每天的“损失”可高达几千英镑。

    于是很多邮政员工被指控犯了盗窃罪或做假账。他们面临两个选择:要么自掏腰包补上账目缺口,要么被起诉。共有700多名邮政员工被起诉;2000至2014年期间,平均每年有30名邮政员工因此入狱。相关受害者的生计和人际关系都被毁了。其中有些人含冤自杀。

    富士通公司最近承认,在1999年向英国邮政交付Horizon系统时,他们就知道系统有bugs。

     人们至今未注意的是,英格兰和威尔士的法律都认定,计算机系统不会出错。这才导致那么多人蒙冤。今后,人工智能辅助决策方面的应用将会越来越多,AI就不会出错么?世界各地如果不修改相关法律,今后会发生更加可怕的冤案。

   有些被冤枉的员工联合起诉邮局方,他们向邮局索取并获得了打官司所需要的相关文件,还寻求IT专家的帮助。最终,他们在2019年胜诉。而那些个别行动的被冤枉者,只能选择与邮局庭外和解,还签署了保密协议,意思是计算机出错的相关证据不得公开。

总之,不能事先认定计算机证据一定是可靠的,凡是做出这种假定的法律都应修订,才能使类似上述故事的误判悲剧不再重演。

资料来源:https://www.nature.com/articles/d41586-024-00168-8

 



https://blog.sciencenet.cn/blog-1557-1419368.html

上一篇:与同事讨论一个词的翻译问题(2014)
下一篇:与过去的学生讨论一篇小文章(2010)
收藏 IP: 1.202.113.*| 热度|

19 郑永军 刘进平 王安良 张忆文 张俊鹏 刘全慧 刘钢 尤明庆 王涛 晏成和 郑强 李学宽 张晓良 彭真明 葛及 杨正瓴 籍利平 许培扬 范振英

该博文允许注册用户评论 请点击登录 评论 (2 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-4-15 16:42

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部