人机交互 交互人生分享 http://blog.sciencenet.cn/u/cswzjut 美国卡耐基梅隆大学博士后,浙江大学博士,主要研究人机交互、脑机交互、人工智能、虚拟现实、界面设计等

博文

浅议人工智能时代背景下的Human-AI/Agent交互(1)

已有 185 次阅读 2026-2-12 13:12 |个人分类:科研|系统分类:科研笔记

人机交互在人工智能时代背景下,它的研究内容、方法、技术,以及应用场景,有哪些新的变化?以目前的Agent为例,对于Human-Agent/Human-AI交互,具体有什么特色?科研人员有在这个领域有哪些发展机遇?本人将陆续结合自己的一点思考和专家同行们的真知灼见,发表系列博文,希望起到抛砖引玉的作用,促进该领域的发展。

(1)信任

人(用户)与系统(Agent)之间的信任问题是重要的研究内容之一,它直接关系到交互的效率和质量。北京邮电大学刘伟教授提出了许多富有启发的观点,例如,他认为"设计可信人-AI协同时,需同时关注:提升绩效(确保能力可靠)、增强过程透明(通过XAI解释逻辑)、明确目的一致性(避免隐藏议程)、警惕过度信任(通过用户教育或系统提示风险),最终实现“用户能理解、敢依赖、会监督”的人机关系"。详见科学网—人-智能体协同的信任研究 - 刘伟的博文



https://blog.sciencenet.cn/blog-391188-1522086.html


收藏 IP: 117.147.106.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2026-2-12 21:30

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部