基于DIKWP的透明性与可信AI实现：案例研究

段玉聪（Yucong Duan）

DIKWP-AC人工意识实验室

AGI-AIGC-GPT评测DIKWP（全球）实验室

DIKWP research group, 海南大学

duanyucong@hotmail.com

1. 引言

随着大语言模型的快速发展，用户对于其透明性和可信性的要求也在不断提高。本案例研究基于DIKWP（数据、信息、知识、智慧、目的）框架，以一个医疗领域的应用为例，探讨如何通过此框架提高AI的透明性和用户信任。

2. 背景

MedAI公司开发了一款用于疾病诊断的AI系统。为了提高医生和患者的信任，他们决定采用DIKWP框架，让AI系统的决策过程更为透明。

3. 案例描述

3.1 数据收集

• 场景描述：一位患者提供了他的症状：持续的头痛、恶心和对光线敏感。

• DIKWP应用：系统首先标记这些症状为数据。例如，系统反馈：“我已收到您的症状描述”。

3.2 信息提取与处理

• 场景描述：系统开始对症状进行分类和解读。

• DIKWP应用：症状被转化为信息，系统可能会说：“我识别到您有与偏头痛相关的症状”。

3.3 知识的应用

• 场景描述：系统根据其预先的知识库分析症状。

• DIKWP应用：在知识阶段，系统可能会提供：“根据我的数据库，这些症状与偏头痛高度匹配”。

3.4 智慧的运用

• 场景描述：系统进一步考虑了患者的医疗历史、药物反应和其他相关因素。

• DIKWP应用：在智慧阶段，系统可能会说：“考虑到您过去没有使用过任何与偏头痛相关的药物，并且您之前没有类似的症状，我建议进一步检查以确诊”。

3.5 目的和结果

• 场景描述：系统为患者提供诊断建议和下一步行动。

• DIKWP应用：在目的阶段，系统可能会建议：“请咨询神经专家以进一步评估和治疗”。

4. 结果反馈

医生和患者能够明确地了解系统是如何从原始症状描述中得出其诊断的，这大大增加了他们对系统的信任。另外，通过这种透明的处理方式，医生可以更加容易地判断AI的建议是否与患者的实际情况相符。

5. 总结

本案例研究显示，DIKWP框架为提高AI透明性提供了一个有效的方法，特别是在需要高度信任的领域，如医疗健康。通过明确地在每个决策阶段与用户交互，AI不仅能够提供更有价值的建议，而且能够获得用户的更高信任度。

6. 前景与建议

虽然DIKWP框架在这个案例中被成功应用，但为了在更广泛的场景中推广，我们需要进一步考虑以下建议：

1. 持续反馈：除了初步的结果，系统应该为用户提供持续的反馈，以增强其决策的透明性。

2. 用户教育：为了最大化DIKWP框架的价值，用户应该被教育以更好地理解和互动。

3. 模型优化：通过持续的学习和用户反馈，系统可以不断地优化，提供更准确和透明的结果。

这样的透明和可信的AI实现，无疑将为AI技术的广泛应用和接受打下坚实的基础。

段玉聪，海南大学计算机科学与技术学院教授，博士生导师， 第一批入选海南省南海名家计划、海南省领军人才，2006年毕业于中国科学院软件研究所，先后在清华大学、首都医科大学、韩国浦项工科大学、法国国家科学院、捷克布拉格查理大学、意大利米兰比克卡大学、美国密苏里州立大学等工作与访学。现任海南大学计算机科学与技术学院学术委员会委员、海南大学数据、信息、知识、智慧、意图DIKWP创新团队负责人、兼重庆警察学院特聘研究员、海南省委双百人才团队负责人、海南省发明协会副会长、海南省知识产权协会副会长、海南省低碳经济发展促进会副会长、海南省农产品加工企业协会副会长、美国中密西根大学客座研究员及意大利摩德纳大学的博士指导委员会委员等职务。自2012年作为D类人才引进海南大学以来，累计发表论文260余篇，SCI收录100余次，ESI高被引11篇,引用统计超过4300次。面向多行业、多领域设计了241件（含15件PCT发明专利）系列化中国国家及国际发明专利，已获授权第1发明人中国国家发明专利及国际发明专利共85件。2020年获吴文俊人工智能技术发明三等奖；2021年作为程序委员会主席独立发起首届国际数据、信息、知识与智慧大会-IEEE DIKW 2021；2022年担任IEEE DIKW 2022大会指导委员会主席；同年获评海南省最美科技工作者（并被推全国）；同年10月入选美国斯坦福大学发布的全球前2%顶尖科学家的“终身科学影响力排行榜”榜单。参与研制IEEE金融知识图谱国际标准2项、行业知识图谱标准4项。2023年发起并共同举办首届世界人工意识大会（Artificial Consciousness 2023, AC2023)。