科学文化足迹分享 http://blog.sciencenet.cn/u/lvnaiji 邮箱:naijilv@gmail.com

博文

人机回圈:人类的科技化与科技的人文化(序及纲要) 精选

已有 5903 次阅读 2018-1-28 10:04 |个人分类:科技|系统分类:科研笔记| 人工智能, 科技, 人文, 语境, 人机回圈

吕乃基

人工智能是当代科技的前沿,涉及面广博,而且关系到人类的前途命运。不同领域的专家从各个角度加以研究,引发各种争论。由“人机回圈”切入,有可能厘清相关的争论与问题。

人机回圈”(Human in the loop),意为“将个人(专家)或公众群体的判断,融入AI系统的优化中去”。http://mini.eastday.com/a/170801174144369.html

在许多情况中,机器所面临的是复杂的问题,需要决策与妥协。通常,如何妥协是一个伦理问题,不能单纯依靠机器学习的算法来得到答案,需要人机回圈的过程来辅助机器做决策支持。人是规划环路的一部分,人的判断既用于业务决策,又被反馈到机器学习算法中,使其更智能。在涉及到千万人的社会问题中,更需要由大家众筹得到一些社会问题的共识,形成自动算法+社会判断的反馈回路。这就是“众机回圈”(Society-in-the-Loop)。http://www.a-site.cn/article/718384.html

如果把“回圈”中的“机”理解成一般意义上技术的产品,那么在更久远的时间尺度,在人猿相揖别的第一天起,“人机”就一直在“回圈”之中。回顾人类历史上的“人机回圈”,有助于理解AI中的人机回圈及其趋势。

再往前推,对人机回圈历程的追溯涉及到动物世界。除了极少数情况外,动物世界与自然界之间是没有中介的直接的关系,灵长类动物使用的工具,也是身边基本上未经加工的树枝、石块等。人类社会与动物世界的区分之一是,人类社会与自然界之间是经由形形色色人工自然的中介而形成间接的关系。

动物世界直接面对自然界,唯有通过基因的变异改变自己的命运,偶然、不能控制,以及耗费巨大时间成本,最终依然接受“适者天择”的命运。

人类发明了技术,随后,人类又在人工自然,也就是技术搭建的平台上与自然界相处,以及与人类社会相处,在相处中发现新的问题,提出新的要求,进而发明新的技术。人类间接地经由人工自然面对自然界,面对人类社会,一步步减少偶然性,以及极大地缩小时间成本,以获得在自然界与人类社会中越来越大的控制权和自由度。

由此可见,在人与自然之间实际上存在两个“回圈”,其一是人机回圈(除了为避免歧义,下文中的“人机回圈”不再加引号),其二是“机”与环境(包括人类社会与自然界)之间的“回圈”。前者是改变人与环境关系的手段,后者是人在与环境的关系中希望达到的目的,由此检验人机回圈的效果与不足,给出下一步人机回圈的目标。两个“回圈”同步推进。

在本文的视野下,可以把“机”与环境之间的“回圈”理解为人机回圈的语境。人机回圈,貌似所有的过程只是发生在人机之间,实际上环境自始自终都是不在场的参与者。正是在人机之间一次次无穷的回圈中,人在与环境的关系中获得越来越大的自由。

就此而言,一部人类史实际上就是在与相应语境的关系中,人机回圈螺旋式上升的历史,或者说,人类史以人机回圈的方式推进。

人工智能中的人机回圈,实际上是人类历史人机回圈的延续和最高阶段。通过对人类历史上人机回圈的回溯与辨析,以凸现和厘清人工智能中人机回圈的内涵。

具体而言,可以由以下方面展开。

首先,鉴于人机回圈中“人”的极端复杂性,可以先由相对单一的“机”入手,研究“机”的存在方式与演化方式

其次,区分人机回圈中的“人”。其一,区分人在供给侧还是需求侧;其二,区分人的不同层次,如人类、国家、组织、个人,以及覆盖不同层次的大数据。不同的“人”,会极大影响到人机回圈。暂且不考虑实际上存在的人与人之间的回圈。

复次,分别探讨人机回圈中,由人到机(编程、塌缩)和由机到人(律令与自由)这两个环节,探讨这两个环节的界面(脑机接口芯片植入),经由界面分别传递了什么内容,以及发生什么变换。由人到机可以理解为科技的人文化,由机到人则是人文的科技化。

第四,在“机”演化方式的基础上,结合人机回圈的两个环节,探索人机回圈的演变,以及人机回圈之语境的演变。

以上内容有待一一展开。

总体而言,从远古至今的人机回圈呈现这样一个趋势:

人类的科技化与科技的人文化。这两个“化”正在趋于合流,合二为一。

一个值得高度重视的迹象是,出现了“机机自己回圈”。



http://blog.sciencenet.cn/blog-210844-1097237.html

上一篇:人类价值观的三个阶段(三)中国
下一篇:人机回圈:人类的科技化与科技的人文化一、人机回圈中的“机”

7 武夷山 强涛 晏成和 黄永义 鲍海飞 zjzhaokeqin hmaoi

该博文允许注册用户评论 请点击登录 评论 (3 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2020-11-29 01:12

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部