|
意识曾经是科学研究的禁忌话题,但现在研究越来越多。尽管如此,我们仍然非常难研究意识,主要是难以进行意识的定量描述,甚至采用传统的还原论方法都难以研究意识。例如意识的进化起源,什么动物开始有意识。人类的意识从什么发育阶段开始有意识,如胎儿有没有意识。另外一种研究策略就是制造出具有意识的人造设备。这也许是另外一条更容易实现的路线,如此不仅仅让我们摆脱对意识过于神话神秘的困境,给我们研究意识提供了更具有可分析性的研究工具,也让我们从哲学高度进一步客观理解我们自身带来可能。当然如果机器有了意识,那么我们人类的自然界地位将会进一步下降。我们人类不过是一类物件而已。
2021 年,谷歌工程师布莱克·勒莫因(Blake Lemoine)成为头条新闻,并被解雇,当时他声称他一直在测试的聊天机器人 LaMDA 是有知觉的。人工智能(AI)系统,尤其是所谓的大型语言模型,如LaMDA和ChatGPT,当然可以看起来有意识。但他们接受过大量文本的训练,以模仿人类的反应。那么我们怎么能真正知道它没有意识呢?
现在,一个由19名计算机科学家、神经科学家和哲学家组成的小组提出了一种方法:不是一个单一的明确测试,而是一个冗长的属性清单,这些属性可以表明但不能证明人工智能是有意识的。在本周作为预印本发布的一篇120页的讨论文件中,研究人员利用人类意识理论提出了14个标准,然后将它们应用于现有的AI架构,包括为ChatGPT提供支持的模型类型。
他们总结说,没有人可能是有意识的。但这项工作为评估越来越像人类的人工智能提供了一个框架,旧金山非营利组织人工智能安全中心的合著者罗伯特·朗说。“我们正在引入一种以前缺乏的系统方法。”
莫纳什大学(Monash University)的计算神经科学家、加拿大高级研究所(CIFAR)的研究员阿迪尔·拉齐(Adeel Razi)没有参与这篇新论文,他说这是宝贵的一步。“我们都在开始讨论,而不是想出答案。”
直到最近,机器意识还是《机械姬》等科幻电影的内容。“当Blake Lemoine在被LaMDA说服后被谷歌解雇时,这标志着一个变化,”Long说。“如果人工智能可以给人意识的印象,那么科学家和哲学家就迫切需要权衡。朗和牛津大学人类未来研究所的哲学家帕特里克·布特林(Patrick Butlin)组织了两次关于如何测试人工智能感知的研讨会。
对于一位合作者,加州大学欧文分校的计算神经科学家梅根·彼得斯(Megan Peters)来说,这个问题具有道德层面。“我们如何根据人工智能的意识概率来对待它?就我个人而言,这是吸引我的一部分。
她说,招募来自不同学科的研究人员进行了“深入而细致的探索”。
首要任务之一是定义意识,“一个充满陷阱的词,”另一位成员,米拉 - 魁北克人工智能研究所的机器学习先驱Yoshua Bengio说。研究人员决定关注纽约大学哲学家内德·布洛克(Ned Block)所说的“现象意识”,即体验的主观品质——看到红色或感到疼痛是什么感觉。
但是,如何去探索算法的现象意识呢?与人脑不同,它不提供可通过脑电图或MRI检测到的内部工作信号。相反,研究人员采取了“一种理论繁重的方法”,特拉维夫大学认知神经科学家Liad Mudrik解释说:他们将首先挖掘当前的人类意识理论,寻找意识状态的核心描述符,然后在人工智能的底层架构中寻找这些。
要被纳入其中,一个理论必须基于神经科学,并得到经验证据的支持,例如使用感知技巧操纵意识的测试期间的脑部扫描数据。它还必须考虑到意识产生的可能性,无论计算是由生物神经元还是硅芯片执行。
六种理论取得了成绩。一个是递归处理理论,它提出通过反馈回路传递信息是意识的关键。另一个是全球神经元工作空间理论,认为当独立的信息流通过瓶颈并在类似于计算机剪贴板的工作空间中组合时,意识就会产生。
高阶理论认为,意识涉及表示和注释从感官接收的基本输入的过程。其他理论强调控制注意力的机制的重要性,以及需要一个从外部世界获得反馈的机构。从六个包含的理论中,研究小组提取了意识状态的14个指标。
研究人员推断,人工智能架构检查的指标越多,拥有意识的可能性就越大。总部位于米拉的机器学习专家Eric Elmoznino将该清单应用于具有不同架构的几种AI,包括用于图像生成的AI,如Dall-E2。这样做需要做出判断并导航灰色地带。许多架构勾选了递归处理理论中的指标框。ChatGPT 底层大型语言模型类型的一种变体也几乎展示了另一个功能,即全局工作区的存在。
谷歌的PaLM-E接收来自各种机器人传感器的输入,符合“代理和体现”的标准。而且,“如果你眯着眼睛,就会发现一个类似工作空间的东西,”Elmoznino补充道。
DeepMind基于变压器的自适应代理(AdA)经过训练,可以在模拟3D空间中控制化身,也有资格进行“代理和体现”,尽管它缺乏像PaLM-E那样的物理传感器。由于其空间意识,“AdA最有可能......体现在我们的标准中,“作者说。
鉴于没有一个AI勾选了超过几个框,没有一个是意识的有力候选者,尽管Elmoznino说,“将所有这些功能设计成AI是微不足道的。没有人这样做的原因是“目前尚不清楚它们对任务是否有用”。
作者说他们的清单正在进行中。而且这不是唯一正在进行的此类努力。该小组的一些成员以及Razi是CIFAR资助项目的一部分,该项目旨在设计一种更广泛的意识测试,该测试也可以应用于类器官,动物和新生儿。他们希望在未来几个月内出版一份出版物。
拉齐说,所有这些项目的问题在于,目前的理论是基于我们对人类意识的理解。然而,意识可能采取其他形式,即使在我们的哺乳动物同伴中也是如此。“我们真的不知道成为蝙蝠是什么感觉,”他说。“这是我们无法摆脱的限制。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-12-24 11:03
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社