人工智能能感到痛苦吗？

《感知的边缘：人类、其他动物和人工智能中的风险与预防》作者乔纳森·伯奇，牛津大学出版社（2024）

人工智能（AI）能感受到痛苦吗？龙虾在锅里沸腾时会遭受苦难吗？12周大的胎儿能感觉到疼痛吗？忽视这些问题，我们可能会默认一场悄无声息、缓慢发生的灾难。过于仓促地肯定回答，人们的自由将不必要地缩小。我们该怎么办？

伦敦政治经济学院的哲学家乔纳森·伯奇或许有答案。在《感知的边缘》一书中，他开发了一个框架，用于保护可能具有感知能力的实体——即感受好坏的能力。道德哲学家和宗教可能在为什么感知能力重要或其重要性有多大上存在分歧。但在伯奇坚决多元的叙述中，所有观点都汇聚于一个责任，即避免无谓的痛苦。最明显的是，这一责任属于我们的同胞人类。但没理由认为它不应适用于其他生物，只要我们能够确认它们的感知能力——无论是农场动物、细胞集合体、昆虫还是机器人。

问题在于如何确定某物是否具有感知能力。哲学上的感知概念充满了基本的分歧。科学领域也是如此。对实验证据的解释各不相同，许多生物的感知能力缺乏持续的研究，包括幼年动物和AI。然后，还有测量问题。对于哺乳动物，行为模式和大脑活动可以提供不良感觉的线索。但是，对于软体动物，它们有着不同的心智和行为表现，其感知能力测试是什么？对于没有大脑或身体感觉表现的AI系统又怎样呢？

面对这团纠结的不确定性，诱惑是躲进毯子下希望问题自行解决。伯奇反对这种做法。他提倡一种主动的预防性方法，一旦发现某个实体的感知迹象就触发谨慎和适当的预防措施。伯奇的框架包括两个过程。

感知能力测试

首先是专家确定一个实体具有感知能力的前景。要求共识是不公平的——这可能会使生物因为科学的无知或争议而被遗弃，遭受长期的痛苦。相反，伯奇提议“科学元共识”应该触发保护。这意味着即使怀疑者之间也完全同意，基于证据和连贯的理论线索，感知至少是一个可信的可能性。当缺乏元共识时，生物可能被指定为调查优先事项或被认定为非感知实体。

感知候选者将进入第二个过程，其中包容性的、信息充分的公民小组将制定保护政策。这些政策应与实体感知能力的风险成比例，并考虑到不同的价值观和权衡。例如，针对大型语言模型（LLM）系统潜在感知能力的反应，实施暂停可能会给社会带来巨大的机会成本。他倡导的公民小组将随着证据的积累而修订他们的建议。

哲学家们正在争论椰子章鱼（Amphioctopus marginatus）是否具有感知能力。

接下来，伯奇转向三个领域，在这些领域中，关于感知能力定义的争议不断挑战着我们。首先是人类大脑——意识障碍患者、胎儿、胚胎和神经器官类器官，即大脑系统的合成模型。其次是非人类动物，包括鱼类、软体动物、昆虫、蠕虫和蜘蛛。第三个领域是人工智能，包括大型语言模型（LLM）。

每个部分都提出了未解决的挑战，并且充满了哲学和科学争议。例如，如何为没有外在行为的神经器官类器官设计预防措施？在这里，伯奇依靠的是感知能力的解剖学对应物，如功能性脑干的存在以及睡眠-觉醒周期的存在。在关于动物的章节中，我们面对的可能是具有感知能力的种类繁多，研究的数量如此之少，以及如何从它们身上推断出结果的问题。

人工智能面临的挑战是设计感知能力测试，算法或设计它们的人员可以了解并“游戏化”这些测试。一个LLM生成关于它“感觉”如何的文本，并不是因为它真的那么感觉，而是因为算法因模仿感知能力而获得奖励。在这里，伯奇警告不要使用行为标记来确定感知能力，而是主张寻找某种“深度计算标记”来作为感知能力的标志。

伯奇在书中充满了谦逊和苦恼。这使得《感知的边缘》有权留下许多未解决的问题。随着书的接近尾声，几个问题仍然悬而未决。第一个问题是范围。伯奇已经撒下了一张大网，但为什么不更广呢？1995年，时任美国总统比尔·克林顿描述美国处于一种“沮丧状态”。如果国家可以说有情绪，其他集体实体——蜜蜂群、公司、国家——是否可以以类似的方式被描述，就好像它们拥有某种感知能力一样？

保护感知能力

另一个悬而未决的问题涉及适当预防措施的标准。伯奇提议的公民小组将被要求在所有感知生物之间做出权衡——包括现在和未来的生物以及感知候选者。当谈到确定比例性时，伯奇关注的是过程而不是实质。但是什么使一项政策成为适当的？让我们暂时不考虑人类在与我们已知的感知生物（如工厂农场的动物）的利益进行权衡时做得有多么糟糕。某些形式的感知能力——比如感受不良但不感受良好的能力，或者那种感觉的强度——是否比其他形式更重要？当感知能力与其他属性（如智力）结合时，是否更加重要？

关于最后一点，伯奇小心翼翼地区分了感知能力和智力。在他的论述中，前者是责任的源泉，而不是后者。但是，那些既具有感知能力又具有智力的生物是否会比那些仅有感知能力而不具智力的生物对预防措施提出更强的要求呢？伯奇不愿扮演“哲学家作为智者”，但好的哲学可以帮助公众构建关于比例性的讨论和应用测试。这个问题还有待进一步探讨。

尽管如此，《感知的边缘》是面向公众哲学的杰作。在每一步，伯奇都表达得清晰且力度恰到好处。他的分析周到而审慎，总是准备着修订。他提升了读者的水平。他引用的资料广泛而丰富。这本书还努力将自己设定为政策手册，每一章都提供了总结。伯奇努力工作，在我看来，成功地撰写了一本极具时效性的深奥哲学书籍。任何思考的人都可以从中受益，只要他们能够接受不确定性。