博文
人机和谐（110925）
|||
人机和谐（110925）
闵应骅
许多人都在问：温州动车追尾事故到底主要应该由人负责，还是由机器负责？其实，人和机器的关系是一个很复杂的问题。
1950年代，我们提倡“人定胜天”，“除四害”打麻雀，“送瘟神”，赶走血吸虫病，结果都不佳。人与自然的关系应该是一种和谐的关系，而不是一种敌对的关系。用牺牲环境换取经济发展不可取。人机关系也一样。
人为什么要机器？因为人需要做的许多事情效率不高，甚至不可能，所以求助于机器。就拿列车控制来说，如果列车开的很慢，司机可以凭眼睛看前方就可以决定开动、加速、停车等，就不需要用机器来自动控制。但是，当列车开到60公里/小时以上，线路又复杂，气候又不好，就不得不借助机器进行自动控制。前面一个弯道、一个隧道，基本上看不见前方，瞎开就可能追尾，甚至翻车。在这个时候，你必须全心全意地依靠机器，相信它。特别是涉及安全的时候。如果它说要停车，你千万不能手动驾驶，让它全速前进。而在机器坏了，不可靠的情况下，人又必须起主导作用，控制你的列车。当然，在设计机器的时候，最后的决定权总是在人手里。这就是人机相互和谐的关系。
人有很多，有操纵机器的人，有管理操纵者的人，管理者还有各种级别。譬如，列车司机是操作机器的，车站调度员是管理者，而调度中心的值班员是更高一层的管理者，铁路局、铁道部就更不用说了。在这个人机系统中他们应该在什么位置？出了事故，他们应该负多大责任？这又需要人之间的和谐。如果各级指挥不一致，操纵者和机器就都不知所措了。所以，人机接口非常重要，让人与人之间、人与机器之间有很好的沟通。
30年前，人们开始估计机器的可靠性。就是说，人可以依靠机器到什么程度？譬如说，机器的平均可靠工作时间（MTTF）是多少，就是说，在此时段内，机器发生故障的可能性很小，人们可以信赖它。所以，系统可靠性的研究和工程就发展了起来。可是，接下来，越来越多的系统中包括了人。譬如一个列车自动驾驶系统就不光是包括机器，还包括驾驶员在内。载人航天系统也包括航天员在内，而且还包括航天员在航天器里面的动作、维修。自从有了网络，特别是物联网，如果把整个网络看作一个系统，那么全世界的人都包括在内。当人算作系统内的一个部件的时候，系统的可靠性就很难估计了。人与人不同，甚至，人可能变成一个最不可靠的因素。当然，机器与机器之间的协同与和谐也非常重要。这次动车事故中，车站联锁显示的是红光带，而调度中心显示的却是绿灯。这样的不一致必然造成系统的混乱。
多年来，人们致力于人工智能，即让机器有人的智能，现在连手机都有智能手机。我一直纳闷：让机器有智能的目的是什么？是希望机器帮助人类做一些人类不愿意做或者不能做的事情呢？还是让机器和人一样，屹立于世界？这好像变成了一个哲学问题。
不管怎么样，人机交互、人机和谐是信息科学领域一个重要问题，也是一个重要的工程问题。
https://blog.sciencenet.cn/blog-290937-490173.html
上一篇：温州动车追尾事故两个月（110923）
下一篇：927上海地鉄事故（110929）
闵应骅
许多人都在问：温州动车追尾事故到底主要应该由人负责，还是由机器负责？其实，人和机器的关系是一个很复杂的问题。
1950年代，我们提倡“人定胜天”，“除四害”打麻雀，“送瘟神”，赶走血吸虫病，结果都不佳。人与自然的关系应该是一种和谐的关系，而不是一种敌对的关系。用牺牲环境换取经济发展不可取。人机关系也一样。
人为什么要机器？因为人需要做的许多事情效率不高，甚至不可能，所以求助于机器。就拿列车控制来说，如果列车开的很慢，司机可以凭眼睛看前方就可以决定开动、加速、停车等，就不需要用机器来自动控制。但是，当列车开到60公里/小时以上，线路又复杂，气候又不好，就不得不借助机器进行自动控制。前面一个弯道、一个隧道，基本上看不见前方，瞎开就可能追尾，甚至翻车。在这个时候，你必须全心全意地依靠机器，相信它。特别是涉及安全的时候。如果它说要停车，你千万不能手动驾驶，让它全速前进。而在机器坏了，不可靠的情况下，人又必须起主导作用，控制你的列车。当然，在设计机器的时候，最后的决定权总是在人手里。这就是人机相互和谐的关系。
人有很多，有操纵机器的人，有管理操纵者的人，管理者还有各种级别。譬如，列车司机是操作机器的，车站调度员是管理者，而调度中心的值班员是更高一层的管理者，铁路局、铁道部就更不用说了。在这个人机系统中他们应该在什么位置？出了事故，他们应该负多大责任？这又需要人之间的和谐。如果各级指挥不一致，操纵者和机器就都不知所措了。所以，人机接口非常重要，让人与人之间、人与机器之间有很好的沟通。
30年前，人们开始估计机器的可靠性。就是说，人可以依靠机器到什么程度？譬如说，机器的平均可靠工作时间（MTTF）是多少，就是说，在此时段内，机器发生故障的可能性很小，人们可以信赖它。所以，系统可靠性的研究和工程就发展了起来。可是，接下来，越来越多的系统中包括了人。譬如一个列车自动驾驶系统就不光是包括机器，还包括驾驶员在内。载人航天系统也包括航天员在内，而且还包括航天员在航天器里面的动作、维修。自从有了网络，特别是物联网，如果把整个网络看作一个系统，那么全世界的人都包括在内。当人算作系统内的一个部件的时候，系统的可靠性就很难估计了。人与人不同，甚至，人可能变成一个最不可靠的因素。当然，机器与机器之间的协同与和谐也非常重要。这次动车事故中，车站联锁显示的是红光带，而调度中心显示的却是绿灯。这样的不一致必然造成系统的混乱。
多年来，人们致力于人工智能，即让机器有人的智能，现在连手机都有智能手机。我一直纳闷：让机器有智能的目的是什么？是希望机器帮助人类做一些人类不愿意做或者不能做的事情呢？还是让机器和人一样，屹立于世界？这好像变成了一个哲学问题。
不管怎么样，人机交互、人机和谐是信息科学领域一个重要问题，也是一个重要的工程问题。
https://blog.sciencenet.cn/blog-290937-490173.html
上一篇：温州动车追尾事故两个月（110923）
下一篇：927上海地鉄事故（110929）
