基于DIKWP的透明性与可信AI实现

段玉聪（Yucong Duan）

DIKWP-AC人工意识实验室

AGI-AIGC-GPT评测DIKWP（全球）实验室

DIKWP research group, 海南大学

duanyucong@hotmail.com

1. 引言

随着大语言模型的广泛应用，如何提高AI的透明性和可信性成为了一大研究焦点。AI的可信度不仅涉及其性能和准确性，还涉及用户如何看待和理解AI的决策过程。基于DIKWP（数据、信息、知识、智慧、目的）的方法提供了一个有前景的框架，以增强AI的透明性和用户信任。

2. DIKWP与AI的透明性

2.1 透明性的重要性

透明性是可信AI的核心组成部分。只有当用户理解AI如何做出决策时，他们才可能信任它。DIKWP为解释模型的决策提供了一个结构化的方法。

2.2 DIKWP框架的描述

• 数据 (Data): 这是AI的输入，包括用户查询、文本、图像等。

• 信息 (Information): AI对原始数据的解读和分类。

• 知识 (Knowledge): AI的预先知识和对信息的进一步解释。

• 智慧 (Wisdom): 对于上下文的深入理解和关联性。

• 目的 (Purpose): AI的最终输出或行动，应满足用户的初始请求。

3. 增强透明性的策略

3.1 透明的数据处理

当用户提供数据时，系统应明确告知如何使用这些数据。例如，通过使用DIKWP框架，AI可以提供如下反馈：“我已收到您的数据，并正在将其转化为可用信息”。

3.2 信息级别的解释

系统应当在处理用户数据并提供答案之前，告知用户其正在进行的操作。例如：“我正在根据我的知识库分析您的请求”。

3.3 深度解释

对于复杂的查询或决策，系统可以利用“智慧”阶段为用户提供更深入的背景信息和解释，例如引用相关的研究或数据。

3.4 结果和目的的清晰表述

在给出答案或采取行动之前，AI应该简明扼要地描述其决策过程，并指明为什么这样做是有意义的。

4. 提高用户信任的方法

4.1 一致性检查

在DIKWP的每一阶段，AI都应该自我检查，以确保其输出与前文和查询保持一致。

4.2 可追溯性

为了增强信任，AI应该能够提供关于其决策的详细背景，包括参考的数据、使用的算法和其他相关信息。

4.3 用户交互

允许用户与AI的决策过程进行互动，例如询问为什么选择某种答案或策略。

4.4 不断的学习

通过收集用户反馈和调整策略，AI可以不断地学习和提高其透明性和可信度。

5. 结论

DIKWP提供了一个强大的框架，可以帮助我们理解和提高AI的透明性和可信度。通过这种方法，不仅可以解释AI的决策，还可以提高用户的满意度和信任度，从而推动AI技术的广泛接受和应用。为了建立真正的可信AI，我们需要深入挖掘这种方法的潜力，并持续改进我们的策略和工具。

段玉聪，海南大学计算机科学与技术学院教授，博士生导师， 第一批入选海南省南海名家计划、海南省领军人才，2006年毕业于中国科学院软件研究所，先后在清华大学、首都医科大学、韩国浦项工科大学、法国国家科学院、捷克布拉格查理大学、意大利米兰比克卡大学、美国密苏里州立大学等工作与访学。现任海南大学计算机科学与技术学院学术委员会委员、海南大学数据、信息、知识、智慧、意图DIKWP创新团队负责人、兼重庆警察学院特聘研究员、海南省委双百人才团队负责人、海南省发明协会副会长、海南省知识产权协会副会长、海南省低碳经济发展促进会副会长、海南省农产品加工企业协会副会长、美国中密西根大学客座研究员及意大利摩德纳大学的博士指导委员会委员等职务。自2012年作为D类人才引进海南大学以来，累计发表论文260余篇，SCI收录100余次，ESI高被引11篇,引用统计超过4300次。面向多行业、多领域设计了241件（含15件PCT发明专利）系列化中国国家及国际发明专利，已获授权第1发明人中国国家发明专利及国际发明专利共85件。2020年获吴文俊人工智能技术发明三等奖；2021年作为程序委员会主席独立发起首届国际数据、信息、知识与智慧大会-IEEE DIKW 2021；2022年担任IEEE DIKW 2022大会指导委员会主席；同年获评海南省最美科技工作者（并被推全国）；同年10月入选美国斯坦福大学发布的全球前2%顶尖科学家的“终身科学影响力排行榜”榜单。参与研制IEEE金融知识图谱国际标准2项、行业知识图谱标准4项。2023年发起并共同举办首届世界人工意识大会（Artificial Consciousness 2023, AC2023)。