与训练有素的聊天机器人对话可以减少阴谋论信仰

通过对话持久减少阴谋论信仰

作者：Thomas H. Costello, Gordon Pennycook, David G. Rand•《科学》杂志•2024年9月13日

生成式人工智能（AI）因在传播错误信息方面的作用而受到广泛批评。在其2024年全球风险报告中，世界经济论坛将由AI加剧的错误信息列为世界目前面临的最严重风险之一。在这种背景下，关于AI潜在积极影响的证据尤其受欢迎。在最新《科学》杂志上，Costello等人报告了这样的证据。作者招募了2000多名阴谋论信仰者，并展示了与由AI驱动的聊天机器人进行的简短但个性化的对话可以平均减少研究受试者错误信仰20%。值得注意的是，这种效果在干预后至少持续了2个月，并且在广泛的阴谋论范围内都有所观察。这些结果挑战了关于阴谋论信仰的传统智慧，并证明即使是根深蒂固的观点也可以通过充分有力的证据来反驳。

Costello等人报告的阴谋论信仰减少的规模、稳健性和持久性表明，重新校准错误信仰的可扩展干预措施可能触手可及。这些发现还提出了关于这种方法可能适用的潜在应用范围的问题。流行的心理学理论认为，人们采用阴谋论信仰是为了满足潜在的心理需求，这使得信仰者对反证不可动摇。此外，根深蒂固的阴谋论者通常对他们所选择的阴谋非常了解，这使得非信仰者难以灵活地组织足够的事实和论点来反驳他们。正如Costello等人所描述的，被称为大型语言模型的AI程序为这一挑战提供了一个有希望的解决方案，因为这些模型可以从跨多个主题的大量信息中提取内容，并且能够针对特定的阴谋和论证线定制反驳论点。

然而，这种方法的一个推论是，Costello等人使用的AI对话技术可能只适用于经过彻底阐述的阴谋论信仰，对于更表面的、几乎没有理由的错误信仰可能效果较差。理想情况下，一个可扩展的AI对话干预应该具有广泛的应用范围，并能够帮助重新校准诸如伪科学、健康神话、气候怀疑主义或政治极端主义等不同领域内的错误信仰。然而，尚不清楚这些类型的错误信仰是否由于与阴谋论信仰相同的原因而抵抗纠正，因此能否以相同的方式进行反驳。作为一种启发式方法，人们可能会期望任何对反证反应良好的错误信仰，如气候信仰（8），可能对由生成式AI提供的灵活、彻底的反证反应更好。最后，需要更多的研究来评估生成式AI如何快速响应新兴的阴谋论——对于这些阴谋论可能没有特定的训练数据可用——在关键时刻，如大流行病初期或对民选官员的暗杀企图之后。

未来工作的另一个方向涉及理解AI对话应持续多长时间以及频率多高才能有效。Costello等人报告说，在研究受试者和训练有素的大型语言模型之间进行了三轮往返对话后，阴谋论信仰在100分制上下降了16分。与其他鼓励反思、分析思维的干预措施相比，这种效应大小是相当大的，后者在减少阴谋论信仰方面仅产生了一到六分的下降（9, 10）。

Costello等人报告的效应随时间持续也值得注意，尽管不足以完全消除错误阴谋论信仰。需要更多数据来确定更强的剂量（例如，更长的对话）和重复干预是否会产生更强的结果。通过系统地变化AI驱动对话的持续时间和频率，可以更好地理解如何最大化其影响，并更接近于缓解错误信仰的综合解决方案。

AI对话技术之所以如此强大，是因为它自动化生成了针对阴谋论信仰者复杂论证的具体且彻底的反证，因此可以在大规模上提供准确的、纠正性的信息。实现这一潜力的一个重要限制在于交付——即如何让持有根深蒂固阴谋论信仰的个体开始参与适当的AI程序。Costello等人的研究依赖于选择参与其科学研究的在线调查受访者。然而，阴谋论信仰者可能会不信任科学机构（11），并且可能很难说服他们在日常生活中选择参与旨在挑战他们信仰的AI对话（12）。克服或绕过这种阻力将需要创新的交付策略。

Costello等人描述的一个选项是将与阴谋论相关的互联网搜索词与AI生成的准确信息摘要相匹配。当然，在搜索点拦截错误信息并向用户提供即时、相关的反证是有价值的。然而，基于通用搜索词的简短摘要会放弃AI对话技术的两大优势：AI响应的长度和特异性。作者提出的另一个选项涉及AI驱动的社交媒体账户，它们可以回复分享不准确阴谋相关内容的用户。这种方法允许针对性，也许在某些平台上允许长度，但可能仍然不足，因为用户可能会认为这些回应具有侵入性或不可信，因此可能会忽略或阻止源AI账户。

引入AI的更个人化方法也可能是有效的。阴谋论信仰者通常有朋友或亲戚迫切希望找到揭穿错误信仰的方法。这些联系可以通过鼓励这些朋友和亲戚诱导信仰者参与AI对话来利用。朋友和亲戚自己也可以在使用AI时从中获得灵感，当他们与持有阴谋论信仰的联系辩论时。这种灵感既可以来自AI提供的事实，也可以来自AI提供它们的冷静方式。在这两种情况下，确保只使用适当训练的AI程序对于维护诚信和有效性至关重要。