If AI becomes conscious: here’s how researchers will know (yyttgd.top)

科幻小说长期以来一直认为人工智能变得有意识，想想1968年电影《2001年太空漫游》中超级计算机变身的反派HAL9000。随着人工智能（AI）的快速发展，机器拥有意识的可能性变得越来越不神奇，甚至得到了人工智能领导者的认可。例如，去年，聊天机器人ChatGPT背后的公司OpenAI的首席科学家Ilya Sutskever在推特上表示，一些最先进的人工智能网络可能已经“有点意识”。

许多研究人员表示，人工智能系统还没有达到有意识的地步，但人工智能进化的步伐让他们思考：我们怎么判断AI是否有意识？

为了回答这个问题，一个由19名神经科学家、哲学家和计算机科学家组成的小组提出了一份标准清单，如果满足这些标准，将表明一个系统有很高的意识机会。他们本周早些时候在arXiv预印本存储库中发布了他们的临时指南。作者之所以做出这项努力，是因为“似乎真的缺乏对人工智能意识的详细、基于经验、深思熟虑的讨论，”共同作者、加州旧金山研究非营利组织人工智能安全中心的哲学家罗伯特·朗（Robert Long）说。

该团队表示，未能确定人工智能系统是否已经变得有意识具有重要的道德影响。根据加州大学欧文分校神经科学家梅根·彼得斯（Megan Peters）的说法，如果某件事被贴上了“有意识”的标签，“这在很大程度上改变了我们作为人类认为应该如何对待实体”。

Long补充说，据他所知，建立先进人工智能系统的公司没有做出足够的努力来评估意识模型，并制定如果发生这种情况该怎么办的计划。“尽管事实上，如果你听听领先实验室负责人的言论，他们确实会说人工智能意识或人工智能感知是他们想知道的东西，”他补充道。

《自然》杂志联系了两家参与推进人工智能的主要科技公司——Microsoft和谷歌。Microsoft发言人表示，该公司对人工智能的开发集中在以负责任的方式帮助人类生产力，而不是复制人类智能。自推出GPT-4（公开发布的ChatGPT的最先进版本）以来，很明显的是，“在我们探索如何充分发挥人工智能的潜力以造福整个社会时，需要新的方法来评估这些人工智能模型的能力”，发言人说。谷歌没有回应。

到底什么是意识？

在人工智能中研究意识的挑战之一是定义意识的含义。彼得斯说，为了报告的目的，研究人员专注于“现象意识”，也称为主观体验。这就是存在的体验——作为一个人、一个动物或一个人工智能系统是什么感觉（如果其中一个确实是有意识的）。

有许多基于神经科学的理论描述了意识的生物学基础。但对于哪个是“正确”的还没有达成共识。因此，为了创建他们的框架，作者使用了一系列这些理论。这个想法是，如果一个人工智能系统以一种与许多这些理论相匹配的方式运作，那么它更有可能是有意识的。

他们认为，这是评估意识的更好方法，而不是简单地对系统进行行为测试——比如，询问ChatGPT它是否有意识，或者挑战它，看看它是如何反应的。这是因为人工智能系统已经非常擅长模仿人类。

该小组的方法，作者描述为理论繁重，是一个很好的方法，根据神经科学家Anil Seth的说法，他是英国布莱顿附近的苏塞克斯大学意识科学中心主任。然而，它强调的是，“我们需要更精确、经过充分检验的意识理论”，他说。

理论重的方法

为了发展他们的标准，作者假设意识与系统如何处理信息有关，无论它们是由什么组成的 - 无论是神经元，计算机芯片还是其他东西。这种方法称为计算功能主义。他们还假设，通过脑部扫描和其他技术在人类和动物中进行研究的基于神经科学的意识理论可以应用于人工智能。

基于这些假设，研究小组选择了其中的六个理论，并从中提取了意识指标列表。例如，其中之一 - 全球工作空间理论 - 断言人类和其他动物使用许多专门的系统（也称为模块）来执行认知任务，例如视觉和听觉。这些模块独立工作，但并行工作，它们通过集成到单个系统中来共享信息。Long说，一个人会评估一个特定的人工智能系统是否显示从这个理论衍生出来的指标，“通过观察系统的架构以及信息如何流经它”。

Seth对团队提案的透明度印象深刻。“这是非常深思熟虑的，它不是夸张的，它使它的假设非常清晰，”他说。“我不同意一些假设，但这完全没问题，因为我很可能错了。

作者说，这篇论文远非如何评估人工智能系统的意识的最终结论，他们希望其他研究人员帮助改进他们的方法。但已经可以将这些标准应用于现有的人工智能系统。例如，该报告评估了ChatGPT等大型语言模型，并发现这种类型的系统可以说具有与全局工作空间理论相关的一些意识指标。然而，最终，这项工作并没有表明任何现有的人工智能系统都是意识的有力候选者——至少现在还没有。