YucongDuan的个人博客分享 http://blog.sciencenet.cn/u/YucongDuan

博文

构建DIKWP方法以实现人机双向可解释、可信、负责任的人工智能系统

已有 436 次阅读 2023-12-5 17:41 |系统分类:论文交流

构建DIKWP方法以实现人机双向可解释、可信、负责任的人工智能系统

 

段玉聪(Yucong Duan)

DIKWP-AC人工意识实验室

AGI-AIGC-GPT评测DIKWP(全球)实验室

DIKWP research group, 海南大学

duanyucong@hotmail.com




引言

随着人工智能(AI)的快速发展,尤其是大模型的应用,人类对AI的恐慌和不信任逐渐增加。这种情绪源于AI决策过程的不透明性、结果的不可预测性,以及潜在的伦理风险。DIKWP(数据、信息、知识、智慧、意图)方法的提出,旨在构建人机之间的双向可解释、可信、负责任的AI系统,本质上实现双方内部主观认知过程和处理的透明与可视化。

DIKWP方法是一种全面的认知框架,它将数据、信息、知识、智慧和意图作为认知处理的连续阶段。这个框架不仅适用于人类的认知过程,也适用于人工智能系统。通过DIKWP,人工智能的决策过程变得更加透明和可解释,从而增强了系统的可信度和负责任性。

概念-语义关联的基础

DIKWP方法作为一种全面的认知框架,涵盖了数据、信息、知识、智慧和意图这五个连续的认知处理阶段。这个框架不仅适用于人类的认知过程,也同样适用于人工智能系统。通过这个方法,可以实现从概念到语义的转换,即从具体的数据元素到其背后深层次意义的转化。这种转化是通过DIKWP各阶段之间的互补和校验来实现的,从而使人工智能系统的决策过程变得更加透明、可解释。

DIKWP方法的应用于AI系统

  1. 数据层(D)与概念认知

    • 数据收集和处理:在这一阶段,AI系统收集原始数据,这是所有后续认知过程的基础。

    • 概念认知:数据层强调的是对事实的直接捕捉,这是概念认知的基础。

  2. 信息层(I)与语义提炼

    • 信息提炼:信息层关注于从原始数据中提炼有意义的模式和联系。

    • 语义层面:这一阶段开始涉及到对数据背后深层次意义的理解,即从概念走向语义的起始点。

  3. 知识层(K)的校验作用

    • 知识应用:知识层通过现有的规则、模型和理论来解释信息。

    • 校验过程:在这一阶段,通过已有知识来校验前面信息层提炼出的语义,确保其准确性和合理性。

  4. 智慧层(W)的决策智能

    • 智慧应用:智慧层考虑更广泛的社会、伦理因素,进行决策。

    • 决策的语义深度:在这一层,AI系统的决策不仅基于事实和知识,还包括对复杂情境的理解和预测,体现了语义理解的深度。

  5. 意图层(P)的目标导向

    • 意图明确:意图层确立了AI系统的最终目标和预期结果。

    • 语义实现的终点:在这个阶段,通过明确的目标,将之前所有阶段的语义理解整合应用,实现目标导向的决策。

DIKWP语义空间中的互补与校验

  1. 互补性

    • 数据与信息的互补:数据层提供原始事实,而信息层对这些事实进行初步的语义加工。

    • 知识与智慧的互补:知识层提供规则和模型,智慧层则在此基础上进行更深入的语义解析和决策。

  2. 校验过程

    • 从信息到知识的校验:信息层提炼的语义通过知识层的理论和模型进行校验,确保其合理性。

    • 智慧层的综合校验:智慧层对之前所有层次的校验进行综合评估,确保决策的全面性和深入性。


AI的当前挑战与DIKWP方法的必要性

  1. AI的当前挑战

    • 不透明性:AI系统,特别是基于深度学习的模型,其决策过程复杂难以追踪,导致“黑盒”效应。

    • 不可预测性:AI的行为和决策结果在某些情境下难以预测,增加了使用风险。

    • 伦理和责任问题:AI作出的决策可能会违反人类的道德伦理标准,其责任归属亦不明确。

  2. DIKWP方法的提出

    • 解决AI挑战的途径:DIKWP方法通过明确AI决策的每一个阶段,提供一种结构化的逻辑框架,用于解释和理解AI的决策过程。

    • 理论基础:DIKWP方法借鉴了人类的认知过程,将AI决策分解为数据、信息、知识、智慧和意图五个层次,每个层次都具有可解释性。

DIKWP方法的应用于AI系统

  1. 数据层(D)

    • 透明的数据处理:确保AI系统中数据处理阶段的透明度,如数据来源、类型和预处理方式。

    • 推理过程:通过明确展示数据处理过程,解释数据如何影响AI的决策,提高用户对AI决策基础的理解。

  2. 信息层(I)

    • 信息提炼与解释:展示AI如何从数据中提炼关键信息,包括模式识别和特征提取。

    • 推理过程:通过展示从数据到信息的转化过程,使用户理解AI决策的依据。

  3. 知识层(K)

    • 法律、规则和模型的应用:解释AI如何利用特定知识进行决策。

    • 推理过程:阐述AI系统如何将信息与现有知识结合,形成决策逻辑。

  4. 智慧层(W)

    • 决策的伦理和社会影响分析:评估AI决策对社会和伦理的影响。

    • 推理过程:分析AI决策的可能社会后果,确保决策符合伦理和社会标准。

  5. 意图层(P)

    • 目标导向的决策过程:明确AI决策的最终目标和预期结果。

    • 推理过程:解释如何将各层次的分析整合,形成符合预定目标的决策方案。

实现人机双向可解释性的策略

  1. 增强透明度

    • 策略:使AI系统的每个决策层次都具备可解释性。

    • 论证:增加系统透明度有助于用户理解AI如何工作,提高信任度。

  2. 互动性增强

    • 策略:允许用户与AI系统进行交互,以更好地理解和影响其决策。

    • 论证:互动性可以提高用户对AI系统的理解,让AI决策过程更贴近用户的需求和期望。

  3. 用户教育

    • 策略:为用户提供必要的教育资源,帮助他们理解AI。

    • 论证:教育用户有助于降低对AI技术的误解和恐慌,增加其接受度。

  4. 伦理指导的整合

    • 策略:在AI系统设计中融入伦理指导原则。

    • 论证:确保AI系统符合伦理和社会标准,增强其社会接受度和责任感。

  5. 反馈机制

    • 策略:建立有效的反馈机制,使用户能够报告问题并提供改进建议。

    • 论证:反馈机制可以帮助开发者改进AI系统,使其更加符合用户需求和社会期望。

结论

DIKWP方法的提出为构建可解释、可信、负责任的AI系统提供了理论基础和实践路径。这种方法不仅可以缓解公众对AI的恐慌,还能促进人机之间更有效的沟通和理解。未来的AI系统将更注重与人类价值观和伦理标准的一致性,从而在技术创新的同时,确保社会和伦理责任的承担。通过DIKWP方法,可以实现AI决策过程的透明化和人机共融的愿景。

段玉聪,海南大学计算机科学与技术学院教授,博士生导师, 第一批入选海南省南海名家计划、海南省领军人才,2006年毕业于中国科学院软件研究所,先后在清华大学、首都医科大学、韩国浦项工科大学、法国国家科学院、捷克布拉格查理大学、意大利米兰比克卡大学、美国密苏里州立大学等工作与访学。现任海南大学计算机科学与技术学院学术委员会委员、海南大学数据、信息、知识、智慧、意图DIKWP创新团队负责人、兼重庆警察学院特聘研究员、海南省委双百人才团队负责人、海南省发明协会副会长、海南省知识产权协会副会长、海南省低碳经济发展促进会副会长、海南省农产品加工企业协会副会长、美国中密西根大学客座研究员及意大利摩德纳大学的博士指导委员会委员等职务。自2012年作为D类人才引进海南大学以来,累计发表论文260余篇,SCI收录120余次,ESI高被引11篇,引用统计超过4300次。面向多行业、多领域设计了241件(含15件PCT发明专利)系列化中国国家及国际发明专利,已获授权第1发明人中国国家发明专利及国际发明专利共85件。2020年获吴文俊人工智能技术发明三等奖;2021年作为程序委员会主席独立发起首届国际数据、信息、知识与智慧大会-IEEE DIKW 2021;2022年担任IEEE DIKW 2022大会指导委员会主席;2023年担任IEEE DIKW 2023大会主席;2022年获评海南省最美科技工作者(并被推全国);2022年与2023年连续入选美国斯坦福大学发布的全球前2%顶尖科学家的“终身科学影响力排行榜”榜单。参与研制IEEE金融知识图谱国际标准2项、行业知识图谱标准4项。2023年发起并共同举办首届世界人工意识大会(Artificial Consciousness 2023, AC2023)。

 

 

数据(Data)可视为我们认知中相同语义的具体表现形式。通常,数据代表着具体的事实或观察结果的存在语义确认,并通过与认知主体已有认知对象的存在性包含的某些相同语义对应而确认为相同的对象或概念。在处理数据时,我们常常寻求并提取标定该数据的特定相同语义,进而依据对应的相同语义将它们统一视为一个相同概念。例如,当我们看到一群羊时,虽然每只羊可能在体型、颜色、性别等方面略有不同,但我们会将它们归入“羊”的概念,因为它们共享了我们对“羊”这个概念的语义理解。相同语义可以是具体的如识别手臂时可以根据一个硅胶手臂与人的手臂的手指数量的相同、颜色的相同、手臂外形的相同等相同语义进行确认硅胶手臂为手臂,也可以通过硅胶手臂不具有真实手臂的可以旋转对应的由“可以旋转”定义的相同语义,而判定其不是手臂。

 

信息(Information)则对应认知中不同语义的表达。通常情况下,信息指的是通过特定意图将认知DIKWP对象与认知主体已经认知的数据、信息、知识、智慧或意图联系起来,产生新的语义关联。在处理信息时,我们会根据输入的数据、信息、知识、智慧或意图,找出它们被认知的DIKWP对象的不同之处,对应不同的语义,并进行信息分类。例如,在停车场中,尽管所有的汽车都可以归入“汽车”这一概念,但每辆车的停车位置、停车时间、磨损程度、所有者、功能、缴费记录和经历都代表着信息中不同的语义。信息对应的不同语义经常存在于认知主体的认知中,常常未被显式表达出来,例如抑郁症患者可能用自己情绪“低落”来表达自己当前的情绪相对自己以往的情绪的下降,但这个“低落”对应的信息因为其对比状态不被听众了解而不能被听众客观感受到,从而成为该患者自己主观的认知信息。

 

知识(Knowledge)对应于认知中的完整语义。知识是通过观察和学习获得的对世界的理解和解释。在处理知识时,我们通过观察和学习抽象出至少一个完整语义对应的概念或模式。例如,通过观察我们得知所有的天鹅都是白色,这是我们通过收集大量信息后对“天鹅都是白色”这一概念的完整认知。

 

智慧(Wisdom)对应伦理、社会道德、人性等方面的信息,是一种来自文化、人类社会群体的相对于当前时代固定的极端价值观或者个体的认知价值观。在处理智慧时,我们会整合这些数据、信息、知识、智慧,并运用它们来指导决策。例如,在面临决策问题时,我们会综合考虑伦理、道德、可行性等各个方面的因素,而不仅仅是技术或效率。

 

意图(Purpose)可以看作是一个二元组(输入,输出),其中输入和输出都是数据、信息、知识、智慧或意图的内容。意图代表了我们对某一现象或问题的理解(输入),以及我们希望通过处理和解决该现象或问题来实现的目标(输出)。在处理意图时,人工智能系统会根据其预设的目标(输出),处理输入的内容,通过学习和适应,使输出逐渐接近预设的目标。





https://blog.sciencenet.cn/blog-3429562-1412565.html

上一篇:借助语言的双向理解揭示意识的本质
下一篇:利用DIKWP框架实现AI决策的透明性和可信度
收藏 IP: 59.50.85.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-2-28 15:16

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部