||
人机交互在人工智能时代背景下,它的研究内容、方法、技术,以及应用场景,有哪些新的变化?以目前的Agent为例,对于Human-Agent/Human-AI交互,具体有什么特色?科研人员有在这个领域有哪些发展机遇?本人将陆续结合自己的一点思考和专家同行们的真知灼见,发表系列博文,希望起到抛砖引玉的作用,促进该领域的发展。
(1)信任
人(用户)与系统(Agent)之间的信任问题是重要的研究内容之一,它直接关系到交互的效率和质量。北京邮电大学刘伟教授提出了许多富有启发的观点,例如,他认为"设计可信人-AI协同时,需同时关注:提升绩效(确保能力可靠)、增强过程透明(通过XAI解释逻辑)、明确目的一致性(避免隐藏议程)、警惕过度信任(通过用户教育或系统提示风险),最终实现“用户能理解、敢依赖、会监督”的人机关系"。详见科学网—人-智能体协同的信任研究 - 刘伟的博文
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-2-12 21:30
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社