twhlw的个人博客分享 http://blog.sciencenet.cn/u/twhlw

博文

人机环、计算计、是非应 精选

已有 5918 次阅读 2021-8-30 15:54 |个人分类:2021|系统分类:科研笔记


编者按:2021年5月22日,苇草智酷NO.110期沙龙,邀请北京邮电大学人工智能学院研究员、剑桥大学访问学者刘伟以“人机融合智能的未来发展”为主题发表了演讲。

 

以下内容根据现场速记整理:

 

为什么起人机环、计算计、是非应这样的标题?

人机环,是智能的核心,没有人机环就没有智能。

计算计,是计算和算计的结合。其中,算计是东方特有的一个概念,因为它是灵活的,动态的。

是非应,是理论基础。在东方体系里面,它讲究是和非,从感性和理性的综合而评判;在西方系统里,讲是和应。在这里,我把东西方的交叉点在这儿给大家用是非应这三个字来表征一下。

一、前沿

我之前写过一本《追问人工智能——从剑桥到北京》,这是一个非常有意思的话题,从维特根斯坦如何延续到人工智能领域,包括图灵,属于有感而发。在这本书里,核心观点分为五点:

 

1、人工智能:从“史前”到现在

2、认知的奥秘:深度态势感知

3、探索人机未来:人机融合智能

4、 三分天下:人、机、环境

5、 人工智能:伦理之问


 mmexport1565953771985.jpg


第二部书叫《人机融合:超越人工智能》,延续了上一部书没解决的一些问题,做了更深化的思考,分为五点:

1、智能的本质

2、人工智能迈不过去的三道坎

3、深度态势感知

4、自主性问题

5、人的智慧和人工智能


28c1c2054fdd09db19832483f25236fc.jpg


智能的根本问题不完全在产品和智能系统,也不在科学和技术,有时甚至在人的决策。真正的智能是一个人机环境的系统,人的智能、机器的智能和环境的智能如何融合才成为真正的智能。

对于智能的理解是一个非常有意思的方向,也是关键之处。智能究竟是什么?智能本身是一个复杂性系统,包括科学和非科学部分。计算一般是逻辑(家族相似性)关系,算计常常涉及非逻辑(非家族相似性)关系。

 

目前整个人工智能获得智能领域涉及到几个核心的难点:

1、可解释性

2、机器常识

3、机器的终身学习

4、自主动态的一多表征

5、弱相关如何形成强相关

 

目前来看,人机混合、人机交互、人机融合的难点和关键之处常常在于第一是融、第二是互。关键之处第一是多、第二是人。任何一个产品系统,只要和人打交道与人碰在一起就会变得很复杂。

 

现在,各国在继续开发第二代人工智能技术及其应用的同时,积极布局第三代人工智能发展,旨在通过机器学习和推理、自然语言理解、建模仿真、人机融合等方面的研究,突破人工智能基础理论及核心技术。

当前,人工智能的难点和痛点,究竟在什么地方?他们的共同特点是有两大支柱。第一个支柱叫做机器学习;第二个支柱叫自主系统。在支柱之下,有一个很前卫的概念叫人机环境系统的协同。

 

二、AI 的不足之处

第一:可解释性差

AI的不足之处,用《孙子兵法》中描述为:“兵者,诡道也,故能而示之不能,用而示之不用,近而示之远,远而示之近。” 除了用古代的《孙子兵法》,近代的《战争论》,未来可能是《人机环境系统智能》研究。

现在的自主是一种“伪自主”研究。为什么说是“伪自主”?这是由于基于底层的技术架构——机器学习和大数据处理机制局限所致。无论行为主义的强化学习、联结主义的深度学习,还是符号主义的专家系统都不能如实准确地反映人类的认知机理,比如直觉、情感、责任、价值等。从客观的事实里得不出主观的价值和责任。

之所以不好用,首要原因是可解释性,这是制约人工智能在各个工程和应用领域里面最重要的拦路虎。可解释性的实质是小数据信息的知识化,也是人类学习的秘密。

 

AI可解释性之所以困难,在于其包含的不仅仅是数学语言,还有管理者、设计者、使用者、维护者等的自然语言,甚至是思维语言。

第二:常识,是制约机器做不到人的实践

正如我们所知,数学的逻辑和生活的逻辑是不一样的。数学是建立在公理基础上的逻辑体系,其核心是相等或蕴含关系;而人的交互体验是非符号的等价或包含关系。不同的事物之间有等价关系,但是他们不是相等关系,必须等于才成立。

第三:人类的学习:活学活用

人类的学习是全方位的学习,不同角度的一多变换学习。能够产生范围不确定的隐性的知识和规则。

 

机器学习是一种隐喻,只是一定范围内的事实输入,处理、输出不能够产生价值(其价值还需要人类解读)。机器学习是单模态的累加,而不是综合的动模态的。

 

总之,AI追求数据化、确定性和理性的解释,假定任何问题都有标准答案,把每个决策简单地变成约束条件下求解,变成数据计算。但是,真实世界里具有大量的不确定性,没有标准答案,需要人的想象力和算计,不是循规蹈矩。

 

三、智能究竟是什么?起源是什么?

智能是一种由人、机、环境系统相互作用而产生的组织形式,是物理、生理、心理、数理、管理、哲理、文理、机理、艺理、地理、伦理、宗理等等多事实、多价值、多责任的混合适应体系,随机应变。智能可能不是类脑。

 

2019年2月14日,美国防高级研究计划局(DARPA)公布“人工智能科学和开放世界新奇学习”(SAIL-ON,泛舟)项目:使AI系统自主识别和响应现实世界环境的变化。

 

在这个项目中,分布着四个特点:

1)认识到世界发生的变化

2)表征世界如何变化

3)适当调整其反应

4)学会适应后,更新其世界模型

 

这四个特点,即将引导未来智能的走向。就好比,“事物的特性往往与观察者有关”这句话体现了东方思想中人和人、人和物之间的关联性。

 

1.东西方“智能”的区别

用一句话来概括,东西方的“智能”区别:一个类比/隐喻多(人),一个归纳/演绎多(机)。东西方的思想差异在于一个是算计、一个是计算。

计算和算计是两大体系,核心是体验。

那么,什么是计算?什么是算计?计算是从已知条件开始的逻辑(解决“复”),算计是从未知前提出发的直觉(处理“杂”)。算计的核心有两个字“异”和“易”。

 

算计里面对于不同领域的东西进行变化平衡的处理,这是算计的核心,而计算恰恰是讲究相同的结构,相同的数据,相同的性质,才能进行,算出的结果往往是不变的、是确定的。

2. 什么是人机融合智能?

它不是人工智能,而是一种由人、机、环境系统相互作用而产生的新型智能形式,既不同于人的智能,也不同于机器的智能,是把一种物理、生理、心理、数理、管理、哲理、文理、机理、艺理、地理、伦理等相结合的崭新一代智能科学体系。

 

智能不仅涉及形式化的拓扑,而且还包括意向性的拓扑。“有一天出现包含有矛盾的数学演算研究,人们将会真正感到自豪,因为他们把自己从协调性的束缚中解放出来了”。

3.自动化、人工智能、智能的区别

自动化是确定性的输入,可编程的处理,确定性的输出;

人工智能是部分确定性的输入,可编程的处理,部分确定性的输出;

智能是不确定性的输入,不可编程的处理,不确定性的输出。

 

除此之外,还有功能和能力概念的不同。功能是所有的自动化产品,机械化产品都是具有功能而没有能力。人工智能到目前为止也只有功能没有能力。只有在小说、电影、艺术品里面的人工智能或者智能系统才有能力,而人恰恰是有能力一个标志。

人的能力是从内而外发出的,有目的性,指向性,意向性,主动性的,而功能是没有的。功能的基础是逻辑,是数学,是映射,这是功能最重要的特点。

能力是什么?是人类最重要的漫射、散射、影射,是无法用形式话的手段进行建模。

4.态势感知

态势感知在一定的时间和空间内对环境中的各组成成分的感知、理解,进而预知这些成分的随后变化状况。

深度态势感知是对态势感知的认知,它是在Endsley的态势感知(数据/信息输入、处理、输出)基础上,混合人、机智能。既包括了人的意向性,也融合了机的形式化。

既涉及事物的大数据能指又关联它们之间的小/无数据所指,既能够理解事物原本之意,也能够通情达理、明白弦外之音。

5.人机融合智能的溯源

人机融合智能的本质是把事实与价值统一起来:人负责价值,而机处理事实。

对人机融合智能的理解,分为五点:

l  输入混合表征的能指与所指切换(如人机常识的一致性);

l  人/团队的归纳、演绎、类比推理与机的统计性推理结合;

l  人/团队的风险性决策与机的无责任性决策;

l  人/团队的自否性反思与机的机械性反馈协调;

l  如何通过任务需求自动调度控制人机资源分配、功能匹配。

所有的智能里面还都有相反的作用,正如阴里面有阳,阳里面有阴,是反作用力的。这里引申出反人工智能。反人工智能就是要加速我方人机环境系统的协同联合能力,同时破坏对手的人机环境系统的协调融合能力。

 

智能和人工智能最大的区别,第一,智能里面不是场景化的,同时还包含了艺术。第二,智能里面有辩证和矛盾的处理权衡机制。第三,真正的智能里面有洞察力,把握should即应该干什么,这是主动性最重要的体现。第四,智能里体现知几、趣时、变通,而人工智能则体现规则、统计、稳定。

四、智能的思考与难点

第一, 未来的智能化涉及从计算走向算计(功能到能力),从科技走向艺术,是有算计的计算或有计算的计算:计算计+功能力。

在人机结合中,什么可以自动化?应该如何自动化?什么时候应该自动化?

第二,智能不是有序,有序的叫仆人,真正的智能里面包含混乱和无序。                                                           

智能不是整体大于局部之和的2>1+1 ,智能也不是局部之和大于整体的1+1>2,而是整体与局部之和的混合1+1><2。智能不是适应,智能也不是不适应,而是适应 + 不适应双向的结合。

 

第三,真实的智能:事实+价值+…

真实的智能有着双重含义:

1、事实形式上的含义,即通常说的理性行动和决策的逻辑,在资源稀缺的情况下,如何理性选择,使效用最大化;

2、价值实质性含义,既不以理性的决策为前提,也不以稀缺条件为前提,仅指人类如何从其社会和自然环境中谋划,这个过程并不一定与效用最大化相关,更大程度上属于感性范畴。

过度依赖AI易造成失去人性中的自信、果敢、责任和勇气。

 

第四,人类智能的基石可能不是数学

人的智能在于知道自己的不智能,人类可以形成并跳出概念并使用概念,机器智能则不然。

 

第五,智能不是万能

智能仅是解决问题的一种工具手段。

 

对于人、机而言,人的动态规划与机器的动态规划却是不同的:有经验的人可以游刃有余地将一个复杂性大问题拆成事实、价值、责任等不同性质的小问题来求解,即用事实、价值、责任的不同化法进行大事化小,小事化了,还可以避免各种一孔之见和固步自封,而目前的机器对此异质合取,化解问题依然望尘莫及,人工智能只会模式对比(不是类比),也许这也是人类智能的又一个瓶颈和难点:如何有效地处理异质性的非形式化问题?

第六,计算+算计=计算计

计算算法只是提高效率的工具和机制,不能自主的决策系统,算计算法里面包含自主的决策和非标准的多重因果及相关关系;

 

智能算法不同于数学算法,它是一种超出数学计算的算计,不但有显性的逻辑推理,还有隐性的知识和秩序运筹,是科学与艺术的融合。

在计算计系统中,如果把不同计算看成乐队里的各个乐器/乐手,那么算计就是让乐队演奏起华美乐章的那只看得见的指挥之手。

 

第七,人机功能力分配是关键

人机功能力分配是人的能力与机器的功能分配,人具有主动性的能力使然(使能),机体现被动试的功能赋予(赋能),是人的动态算计与机器的准动态计算之间的分配。

人的能力是会随着人机环境系统的变化而变化的。需要探索新的因果关系、统计概率、递归迭代、与或非……

 

第八,机是半导体,人是变导体

数据/信息/知识本身既包括事实也包括价值,只不过事实是以显性方式表征,价值常以隐性方式出现,计算处理的是事实,算计对待的是价值,当然,更多时候使用的是计算计方式。

从事实到价值的桥梁如果是概念,那么就是计算,从事实到价值的桥梁如果是实践,那么就是算计……

 

第九,哲学不仅可以解释世界,也可以改造世界

真实实践过程中,归纳、类比、演绎、隐喻的嵌套递归混合造成了现有理性逻辑推理的无能为力。

所有的信息知识和核的数据都不是固定的,都是变化的,动态的,多样的。随着外部的实践和交互产生相互的作用。

人常常有内外两套态势感知系统(OODA系统)耦合而成,共振时最强,抵消时最弱,另外还有一些非智能因素(即智慧)影响决策系统:想不想、愿不愿、敢不敢、能不能……这些因素虽在智能领域之外,但对智能的影响很大。

五、总结

经过多年的深入研究,我给智能做了以下几个定义:

1、智能是人机环境生态系统交互所产生出的一种功能力;

2、智能是科学与非科学的复杂系统;

3、智能的基础不仅仅是现代的数学;

4、智能不是大数据的,而是小或无数据;

5、智能是事实与价值混合在一起的开放性计算计决策系统;

6、智能不是万能的(如胆识),智能里包含反智能。

 

最后,引用茹科夫斯基所说:“使人类飞翔在天空的不是肌肉的力量,而是智慧与思想”。

今天的分享到这里,请大家静待第三部书——《非存在的有》的出版,谢谢大家!


11.jpg





https://blog.sciencenet.cn/blog-40841-1302076.html

上一篇:浅谈人机混合智能——计算-算计模型
下一篇:人机的边界

7 闻宝联 蔡宁 武夷山 黄永义 张学文 王兴 陆仲绩

该博文允许注册用户评论 请点击登录 评论 (4 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2022-1-28 04:28

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部