思想海洋的远航分享 http://blog.sciencenet.cn/u/xying 系统科学与数学水手札记

博文

机器怎样才能有意识 精选

已有 16380 次阅读 2018-8-16 08:27 |个人分类:科普|系统分类:科普集锦| 机器智能, 意识, NCC, 信息整合理论

意识,没有一个客观的科学定义,难以观测认定,但它是每个人都能主观感受到的真实。当你看到嫣红的桃花轻摇,缤纷飞舞,闻到阵阵清香,清晰地感受身在桃林暖风花雨中,勾起昔日人面桃花相映红的怅惋,你的感受认定了自己在熟悉的春日下。这经历和想象,方才过往现在感受与即将到来的统一和谐连贯映像,综合着各种感知的体验构成了意识,其中有个同一的心理上连贯的“自我”作为意识的主体,以内在的视角对世界作出反应。机器会有吗?

在心智研究上,人们向来把难解的意识问题留给哲学思考,科学只关心客观能够描述的智能。人工智能发展到今,机器在辨识和棋类博弈方面的智能已经与人相敌了,各种高超的智能机器喷涌而出,人们开始认真考虑机器能否形成自我,怎样才能具有意识的问题了。

智能的问题

早期人们对心智问题的研究,基本是内省的感悟,这个感悟构建的心理学独立于物理世界之外,表现为物质和心灵的二元论。到了20世纪,行为主义开始流行,不讲主观感觉只重客观行为,观察人的外在表现和倾向,不在乎所谓的心理解释。1950年图灵在“电脑能思考吗?”的论文中,第一次提出“机器思维”的概念。他认为:通过电传终端与另一边进行对话,如果人们无法区分那边是机器还是人类时,那么就该承认这机器具有智能。这个测试称为“图灵测试(Turning Test)”。他的主张在认知科学上称为功能主义。计算机发明后,特别是图灵的工作,功能主义取代了行为主义,成为心灵和智能研究的主流。在功能主义旗帜下的计算主义,以实现功能的计算来窥探认知,至今仍是人工智能研究和认知科学的标准范式。

1980年代,当计算主义信心满满地研究智能、展望未来时,哲学家塞尔用“中文房间”思想实验,提出质疑。塞尔形象地模拟专家系统的符号运算,说不懂中文的他,躲在装有许多中文字片的房间里,收到外面传来中文字条,他只是按预订的规则挑选对应的中文字片来作为回复,就给人一种能理解中文会思考做答的印象。计算机也是如此,它只是按规则搬弄字符,无论表现得多么神奇,其实都不是通过思考。这是现代哲学中最著名的思辨之一,他针对是能够通过图灵测试的机器智能,在哲学界和认知科学上引起了广泛的讨论。

那时的人工智能是按照符号主义的思想来构建的,认为认知和思维的基本单元是符号,知识用符号依句法形成符号串表示为命题,认知是按形式逻辑处理符号串的过程,研究智能的工作是怎么最有效地搜索知识库来求解。塞尔质疑心灵活动能够通过这样机械式的计算来描述。
他认为思考不是简单的逻辑运算,必须由具有内在因果性的机制和意向的动力来驱动。当问起肉包好吃吗?大脑中涌现肉包形象、香气和味道体验的回忆,在喜好意向的驱动下,组织成语言作答。而专家系统和中文房间,都不是从由对肉包的感受,只是分析句法,按照对照表找到最符合的字片来回复。虽然惟肖惟妙,但谈不上理解,更没有思想。

在过后的30多年至今,人工智能的主流已经从符号主义,转到深度学习的联结主义机制上了。神经网络通过学习,获得了如同人类一样,能够举一反三、由此及彼,联想推测的“感性”辨识决策能力。虽然让机器模仿人类,不是现在人工智能研究主流追求的目标,但技术的发展让它在更高程度的智能上与人真假难分,听和看人类自然语言也进入应用领域,通过图灵测试不再是个问题了。但图灵测试只与对应问答的功能有关,具有同样输出输入关系的功能可以由不同的内在机制来驱动的。也许“中文房间”的符号主义操作过程,并不适用于现在神经网络的智能机制了,但塞尔的核心思辨仍然在质问:人对问题的回答是有意识的,由感受内容的因果性所驱动,机器会有意识吗?它真的理解所问的内容吗?

意识的问题

哲学家用僵尸(Philosophical Zombie)来形容在行为上与真人无异,却没有思想、意志和意识的物体。它所作所为不由自主,只是被动的反应。“中文房间”的思辨自1980年起,哲学家科学家就不断地在学术刊物上争议。作为哲学家的塞尔强调计算机的行为不是由意识驱动的,它是按照固定程序行事的哲学僵尸,只是在模拟能够思考。图灵测试无法区分哲学僵尸和由意识驱动行为的人类,他们的本质分歧在于什么是意识?能否测定意识?

“意识”是哲学一直关注最古老的问题,自笛卡尔起,哲学家开始以严谨的态度思考物质与精神的关系。科学研究的是客观的现象,而意识是主观的体验。看到一片光华,你感觉到了通红的颜色,火热的激情,可是客观的测量和物理知识告诉我们,这是频率400~484THz的电磁波作用于我们的眼睛,但是在黑暗中的激情迷幻也能产生类似的感受。当你正在经受着疼痛,而一切身体检查都无法解释疼痛的存在时,什么更为真实?是根据科学检测的医生判断,还是自己切身的感受?当你沉静下来,专注内心默念几次:“我的脑中响起了这句话”,你用心体察,会感受到头脑里也响起这句话,而周边其实寂静无声。这些都是每个人都能真切感受到的体验,其体外的物理测量却无法探知。

外在的检测难以探知主观的体验,在过去只能通过主观诉说得知,同一种事物主观感受因人而异,体验未必是真,诉说也许谬误,这些都无法符合客观的标准。所以近到二三十年前,意识的概念一直被科学界所排斥,甚至这个词在《自然》和《科学》稿件和基金申请中都是个忌禁。主观意识从根本上便被要求客观的研究无视,它远在以客观为基础的科学理论之外。

能被客观测量的事物性质叫属性,如“力”和“频率”;主观感觉到的性质叫感受(quale),如“疼痛”,“红色”,“迷茫”等等,它是具有前因后果连贯的一个状态。感受是一切心理现象的基础,它是意识的体现。意识存在于主观世界的感受空间里,而客观世界是在物质属性的空间里。人在感官刺激下感受到一种体验,而在没有感官信号输入的梦境中,同样可以得到类似的体验,即使在清醒时也有幻听、幻觉和联想。客观世界的物质作用和主观世界的内心感受并非完全对应。现代的神经生理学研究虽然已经细致地了解了机体经受伤害时,刺激作用于机体外周感受器,转变成神经冲动进入中枢神经系统直到大脑皮质兴奋的动力过程和化学物质,但是仍然无法理解如何产生主观意识上的体验。

当代哲学家戴维·查默斯(David Chalmers)把理解人类意识的问题分为“简单问题”和“困难问题”。“简单问题”是指理解大脑中产生知觉、记忆和行为的结构、功能和机制,“困难问题”是理解这些为什么会和意识相联系,它的本质和来源。因此解决“简单问题”,对解决“困难问题”并没有帮助。主观和客观是基于对立假设的两种世界,不能以己方来肯定对方的基本设定,所以困难的问题永远无解。

意识理论

对应于解释意识本质和来源的“困难问题”,时空物质的本质和来源其实是对应着这个问题的另一面。客观世界是意识的产物,意识无法验证自我不存在的世界。在科学上是先以承认时空物质的存在性作为不容置疑的公理,然后研究它们间的性质和关系,给我们建造了一个物理世界的理论。在这构建中抹去了主观的位置,所以建立在物质主义的科学无法解释意识的问题。

近十来年来,脑科学致力于研究“真正问题”,即意识存在的生物学基础。它不同于回避意识存在的“简单问题”,也不纠缠于解释意识的存在的“困难问题”,而是以承认意识存在作为出发点,探究支持意识现象的基础机制。它包含了研究清醒、幻梦到睡眠的意识层次,视觉、听觉、触觉、心情、思想和信仰等意识体验,以及产生自我意识的意识自身。

意识存在性对思考这问题的人而言,其实并不比物质的世界更为可疑,笛卡儿曾以怀疑一切的态度审视被认为真实的存在,当一切皆为可疑时,唯有正在怀疑着的这个意识必须存在才有可能,所以“我思故我在”。现代的脑科学研究通过脑电图(EEG)、功能核磁共振(fMRI)和微电极等技术手段,来探知大脑神经活动,将意识活动对应于神经元的一系列兴奋状态变动,建立起主观感觉与客观可测量现象的联系,以此来研究与人们主观感受相关的机制、结构和量值。了解当你“知道”你正看着一条狗时,头脑哪些神经元发生了什么?当你突然感到悲伤时,它又发生了什么?

从20世纪90年代开始的几十年中,现代神经科学、临床和心理学的研究从外部探知人脑的活动现象和区域,已经积累了许多发现。英国DNA双螺旋结构发现者弗朗西斯·克拉克(Francis Crick)和美国计算神经学家克里斯托夫·柯克(Christof Koch)在1988年就致力于这个研究。他们发现每个意识的知觉都与特定方式运作的特定神经元组(Neuronal Correlates of Consciousness,简称NCC)有关。神经元兴奋的信号、波动和活动的区域都能被仪器检测到,从而判别无意识、意识清醒的程度,以及支持它们的神经组织结构。病理分析可以鉴别这些神经元组是否与意识有关。看到红色是一种神经元意识的关联,香气是另一种关联,触觉又是一种。当你看到嫣红的桃花轻摇,缤纷飞舞时,视觉皮层活跃起来在综合处理桃花的颜色,形状和运动的轨迹,嗅觉皮层在分辨联系送来的香气,颞叶上的听觉区收到花枝轻摇的声响,微风和花瓣轻拂而过的皮肤产生感觉的电信号传入脑中触觉的区域,这些感官皮层的兴奋导致大脑皮层几个区域同时涌起的兴奋波动,让你感受到一个融为一体的意识体验。米兰大学的神经科学家马塞洛·马斯米尼(Marcello Massimini)用脑电图(EEG)记录短时电脉冲刺激后的脑区响应(经颅磁刺激技术 TMS),可以从用响应模式的信息复杂度,定量地区分从完全清醒状态、无梦睡眠到深度麻醉状态的不同意识水平。

美国威斯康星大学麦迪逊分校精神病学家和神经学家朱利奥·托诺尼(Giulio Tononi)从信息角度来寻找一个描述意识清醒程度的数值指标Φ和意识体验的信息结构。在研究中总结出意识体验是存在的、复合的、信息的、整合的和排斥的五个现象学特征。他将之立为五个公理,依此由状态转移机制来找出在给定状态下,能够产生最大Φ值的神经元复合体和具有最小不确定性的概念结构。这个类似于构建力学系统的研究称为“信息整合理论(Integrated Information Theory,简称IIT)”。

在这个理论中,神经元组中神经元的兴奋与否抽象地描述成它们01真值的一个状态,神经元联接的结构和权重决定了兴奋触发的机制,神经元组将单个神经元的兴奋机制复合成为状态随时间变化的机制。神经元组外还可能有其他未知的输入,因此神经元组的现在状态,决定了是在其机制约束下,相关神经元集合以前和以后可能状态的两个概率分布。在状态的变化中,以前状态是现在的“因”,以后是现在的“果”,神经元组的兴奋在其机制约束下,建立了“因果性曲目(Cause-effect repertoire)”,即这两个概率分布。若这曲目要比完全随机无序的前因及随机状态演化的后果具有较少的不确定性(较小熵),神经元组的机制对这状态就产生了一种因果性信息。对神经元组而言,这个较确定的前因后果是神经元组对状态有一个较清晰连贯的系统属性,对应着意识中的基础“感觉”。

对应于意识体验是不可分解整体的属性,只有在神经元组整体产生因果性曲目的不确定性比分割成几块产生的曲目组合小,则才有可能。若整体产生的因果性信息大于分解组合的神经元组,则称为不可分解的整合,这种整合能减少不确定性的信息量记为φ。因果性曲目不一定要包含所有相关的神经元,排斥公理让我们只关心和选取能导致最小不确定性整合的那些神经元所组成的因果性曲目。这影响了相应的φ值。对应于最大φ值那个因果性曲目记为MICE。这个不可分解的神经元组、其最大φ值和MICE组成了一个“概念(concept)”,对应于意识体验中的一个感受方向,它指向这不可分解的神经元组拥有哪个最为确定的前因后果。

不可分解神经元组的各个不可分解的子集都能产生“概念”,这个系统的信息量是每个“概念”中MICE的因果性信息量与它φ值加权的和,它标志着系统减少不确定性的能力,所以具有越多个和越高φ值“概念”的系统可能对应着有着越丰富明确的综合感觉。

整合公理要求进一步比较神经元组整体与分解组合所拥有“概念”MICE系统的不确定性。这个整体更强的概念系统信息,记为Φ,意味着这神经元组在整合“概念”上也是不可分解的。排斥公理说,具有最大Φ值的不可分解神经元组,即“复合体(complex)”,排斥了其他“感觉”的贡献,以消除任何两可的含糊。最大整合概念系统的概念结构(MICS)是由现在状态的复合体所产生的概念结构,它拥有最大整合确定性的概念组合。

按照以上方法发现的MICS在信息角度等同于意识的主观体验,其信息的构成完全符合意识体验现象学的特征,其复合体对应于意识中的主体。例如看到“一个红色滚动的圆球”,这对应着一个作为复合体的神经元组正处在某个状态中,它的机制产生的“红色”、“滚动的”、“圆球”等各个概念都具有相应的最为确信的因果性曲目,构成一个不可分解的整体体验。每个概念对应着意识体验的一个方向,其φ值表示这方向体验的强度。它们决定着体验的品质。而Φ值对应着这时整体意识的清醒程度。

IIT提供了一个计算方法来测量意识体验和理解其机理的数学模型,其计算机模拟的结果在临床中得到了验证。只有足够高的Φ值才具有人类澄明的意识。它被认为是目前最有前途的意识理论,成为当下神经科学的热门话题,得到许多重量级科学家的拥护。

机器意识

NCC和IIT理论在科学实验的基础上探究大脑皮层神经元组的兴奋状态与意识活动的联系。根据IIT,人脑中融为一体的意识体验,依赖于兴奋状态在复合体中所产生信息整合为一体的能力。这个理论建立在抽象的状态转移机制系统上,所以不仅适用于大脑中神经元组,也可以是任何符合这数学模型的硬件。托诺尼用Φ值来度量整合的程度,Φ值越高,对应着意识程度这时就越高。这种意识现象的度量只与系统中状态转移机制的结构和所处的状态有关,而不管它是在一个人的神经系统、或是一只昆虫的,甚至是一台机器中。

根据IIT,虽然我们不能确信能产生高Φ值的机器一定会像人类那样思考,但可以确定今日机器学习的人工智能,包括深度学习具有很强辨识能力的机器,打败人类的阿尔法狗,现在会与人对话的机器人都不具备意识的特征。不论它们拥有多少神经元和联接,将来拥有多少超越人类的智能,这类前馈型多层神经网络实现的是一个从输入到输出的确定函数,只拥有属于哲学僵尸的功能。这样没有反馈回路结构的神经网络系统,不能形成复合体,Φ=0,只有输入到输出的映射关系,不会产生意识的体验。就像人类的小脑具有远比大脑多的神经元,实现了许多非常复杂需要智能的活动,但这些智能还只是在无意识下进行。高度联接的互联网和生物的本能也只具有不值一提的Φ值,单纯的高智能系统未必具有意识。意识也许是一种灵活地运用高度整合极其丰富信息来做决策和交流活动的信息控制机制,人类在自然竞争中因此进化出具有密集复杂联接结构的大脑皮层,用以支持这种优越的机制。作为工具的智能机器,不必具有意识也可以实现我们所需要的各种智能。现在流行的人工智能技术并不导向具有意识的机器,对此必须在结构和研究上另起炉灶才有可能。尽管这还是个空白,但创造这种与人类意识特征相同的信息整合智能,在原理上并无不可逾越的障碍。

【参考资料】

⦁ 克里斯托夫·科赫,顾凡及、侯晓迪译,“意识探秘——意识到神经生物学研究”,上海:上海科学技术出版社,2016
⦁ Oizumi M, Albantakis L, Tononi G (2014), From the Phenomenology to the Mechanisms of Consciousness: Integrated Information Theory 3.0, PLoS Comput Biol 10(5): e1003588.
⦁ Tononi G (2012) Integrated information theory of consciousness: an updated account. Arch Ital Biol 150: 56–90.

* 此文曾刊在《中国计算机学会通讯》第14卷第2期(2018.2)专栏,这里文字略有修改。



http://blog.sciencenet.cn/blog-826653-1129449.html

上一篇:机器学习的认知模式
下一篇:我从哪里来?

20 尤明庆 田云川 袁方 李剑超 赫荣乔 赵克勤 周健 黄永义 刘锋 张磊 吕乃基 霍振全 陈志飞 张华容 柳林涛 刘德力 汪波 鲍海飞 冯向军 吴国林

该博文允许注册用户评论 请点击登录 评论 (32 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备14006957 )

GMT+8, 2018-11-16 04:52

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部