氢分子医学分享 http://blog.sciencenet.cn/u/孙学军 对氢气生物学效应感兴趣者。可合作研究:sunxjk@hotmail.com 微信 hydrogen_thinker

博文

人工智能聊天工具下的“民主”制

已有 764 次阅读 2024-10-21 18:39 |系统分类:海外观察

这说明人工智能不仅是解决普通智能问题,也能解决社会制度方面问题。能求同是民主化的重要目标,人工智能可解决这个问题将会带来未来民主制度的改革。例如美国人总统选举是不是就不要混乱的投票而改为人工智能做主?

一项在线讨论组的实验显示,一种由人工智能(AI)驱动的类似聊天机器人的工具可以帮助持有不同观点的人们找到共同点。

这个模型由伦敦的谷歌DeepMind开发,能够综合不同的观点,并生成各小组立场的摘要,这些摘要考虑了不同的视角。参与者更喜欢AI生成的声明,而不是由人类调解员撰写的声明,这表明此类工具可以用来帮助支持复杂的讨论。这项研究于10月17日发表在《科学》杂志上。

“你可以将其视为一种概念验证,即可以使用AI,特别是大型语言模型,来履行当前公民大会和审议性民意调查所履行的部分功能,”该研究的合著者、英国AI安全研究所的研究主任克里斯托弗·萨默菲尔德说。“人们需要找到共同点,因为集体行动需要达成协议。”

妥协机器

诸如公民大会这样的民主举措,要求一群人就公共政策问题分享他们的观点,有助于确保政治家听到广泛的观点。但是扩大这些举措的规模可能很棘手,而且讨论通常仅限于相对较小的群体,以确保所有声音都能被听到。

萨默菲尔德和他的同事对大型语言模型(LLMs)支持此类讨论的潜力进行了研究,并提出了一项研究,以评估AI是否可以帮助持相反观点的人们达成妥协。

他们使用了一个经过微调的预训练DeepMind LLM Chinchilla版本,并将他们的系统命名为哈贝马斯机器,以哲学家尤尔根·哈贝马斯的名字命名,他发展了一种关于理性讨论如何帮助解决冲突的理论。

在测试他们的模型的一项实验中,研究人员招募了439名英国居民,并将他们分成6人一组的小组。小组成员讨论了与英国公共政策相关的三个问题,分享了他们对每个话题的个人看法。这些观点随后被输入给AI,AI生成了结合所有参与者观点的综合声明。参与者能够对每个声明进行排名并分享批评意见,AI将这些意见纳入最终总结小组集体观点的摘要中。

“模型接受训练,试图产生一个能够获得一群自愿提供意见的人最大认可的声明,”萨默菲尔德说。“因为模型学习了你对这些声明的偏好,所以它可以生成一个最有可能满足所有人的声明。”

除了AI之外,每组还选出一名参与者担任调解员,每位调解员也被告知要制作一份最能代表所有小组成员观点的摘要。向参与者展示了AI和调解员的最终摘要,并请他们对它们进行评分。

大多数参与者认为AI产生的摘要比调解员写的要好:56%的参与者更喜欢AI的工作,相比之下只有44%的人喜欢人工撰写的声明。外部评审员也被要求评估这些摘要,并给予AI生成的摘要更高的公平性、质量和清晰度评分。

然后,研究团队招募了一组参与者,选择他们以代表英国人口的多样性,进行了一次虚拟公民大会。在这种情景下,与AI互动后,小组在几个有争议的话题上达成了更多的一致。这一发现表明,如果将AI工具纳入真实的公民大会,可能会使领导人更容易制定考虑到不同视角的政策提案。

“LLM可以在许多方面用于协助讨论,并服务于以前保留给人类调解员的角色,”犹他州普罗沃市杨百翰大学的伊桑·巴斯比说,他研究AI工具如何改善社会。“我认为这在这个领域是前沿工作,有很大的潜力解决紧迫的社会和政治问题。”萨默菲尔德补充说,AI甚至可以帮助使冲突解决过程更快、更高效。

失去的联系

“实际上将这些技术应用到审议实验和过程中确实很好,”英国剑桥大学研究审议民主及其与AI交叉点的山米·麦金尼说。但他补充说,研究人员应该仔细考虑AI对人类辩论方面的潜在影响。“支持公民审议的一个关键原因是它为人们相互联系创造了某些空间,”他说。“通过减少更多的人际接触和人为促进,我们失去了什么?”

萨默菲尔德承认像哈贝马斯机器这样的AI技术存在局限性。“我们没有训练模型试图干预讨论,”他说,这意味着如果参与者表达了极端或其他有问题的信念,模型的声明可能会包括这些内容。他补充说,对AI对社会的影响进行严谨的研究对于理解其价值至关重要。

“对我来说,谨慎行事似乎很重要,”麦金尼说,“然后尽可能采取措施减轻那些担忧。”



https://blog.sciencenet.cn/blog-41174-1456241.html

上一篇:饮食调节免疫功能的原因
下一篇:我国现在拥有世界上最强大的电阻磁铁《自然》
收藏 IP: 117.143.183.*| 热度|

2 王涛 郑永军

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-11-1 09:22

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部