YucongDuan的个人博客分享 http://blog.sciencenet.cn/u/YucongDuan

博文

透明与责任:DIKWP在提升人工智能决策透明度和可信度中的应用

已有 492 次阅读 2023-12-8 15:51 |系统分类:论文交流

透明与责任:DIKWP 在提升人工智能决 策透明度和可信度中的应用


传统发明创新理论1946-TRIZ不适应数字化时代

-综合DIKWP模型和经典TRIZ的创新问题解决方法

意图驱动的数据信息知识智慧融合发明创造方法:DIKWP-TRIZ

(中国人自己的原创发明创造方法:DIKWP-TRIZ)

 

 

 

透明与责任:DIKWP在提升人工智能决策透明度和可信度中的应用

 

 

段玉聪 教授Prof. Yucong Duan

贡献者:弓世明

DIKWP人工意识实验室

AGI-AIGC-GPT评测DIKWP全球实验室

(联系邮箱:duanyucong@hotmail.com)

 

 


目录

摘要

1 引言

2 AI的当前挑战与DIKWP方法的必要性

2.1 AI的当前挑战

2.2 DIKWP方法的提出

3 DIKWP框架的核心要素

3.1 数据层(D

3.2 信息层(I

3.3 知识层(K

3.4 智慧层(W

3.5 意图层(P

4 概念-语义关联的基础

5 概念-语义关联的实现

5.1 概念的定义与语义的提取

5.2 DIKWP中的语义空间

6 DIKWP的互补与校验

6.1互补性

6.2 校验机制

7 DIKWP语义空间中的互补与校验

7.1 互补性

7.2 校验过程

8 DIKWP方法应用于AI系统

8.1 数据层(D)与概念认知

8.2 信息层(I)与语义提炼

8.3 知识层(K)的校验作用

8.4 智慧层(W)的决策智能

8.5 意图层(P)的目标导向

9 实现人机双向可解释性的策略

9.1 增强透明度

9.2 互动性增强

9.3 用户教育

9.4 伦理指导的整合

9.5 反馈机制

总结

参考文献

 


摘要

本文深入探索了DIKWP(数据、信息、知识、智慧、目的)框架在提高人工智能决策透明度和可信度方面的应用。文中详细论述了这一框架如何通过层层递进的认知过程,帮助解决AI系统在决策过程中的不透明性和不可预测性问题。DIKWP方法强调数据的重要性,提出了从数据到信息、再到知识、智慧,最终达到明确目的的逐步处理过程。通过这一过程,AI系统不仅能够提供决策的结果,而且能够解释其决策的基础和逻辑。文章还探讨了如何将伦理和社会责任整合进AI系统,使其决策不仅科学合理,而且符合道德和社会标准。文章通过分析当前AI领域面临的挑战,展示了DIKWP框架如何有效地提升AI系统的可解释性、透明度和责任感。最后,文中还讨论了实现这一目标的具体策略和方法,为AI领域的研究者和开发者提供了实用的指导。

1 引言

在当今日益发展的人工智能领域,AI系统的透明度、可解释性和负责任性已成为关键议题。过去的研究主要关注于AI技术的效能和效率,而在AI逐渐融入人类社会的各个领域,如何确保这些系统的决策过程既可理解又负责任,已经变得至关重要。当前,AI系统常常被批评为黑箱操作,其决策过程缺乏透明度和可解释性,这不仅挑战了用户的信任,也引发了诸多伦理和责任问题。

在此背景下,DIKWP(数据、信息、知识、智慧、目的)框架的提出,为解决上述问题提供了新的视角和方法。DIKWP框架强调在AI决策过程中的每一步骤,都应明确其数据来源、信息处理、知识构建、智慧应用和最终目的的明确性。这种分层透明的方法不仅使得AI系统的决策过程更加可理解和可信,而且有助于确保决策的合理性和道德责任性。

文章通过详细分析DIKWP框架中每一层的作用和重要性,揭示了如何有效地应用这一框架来提升AI系统的透明度和可解释性。对数据的精确处理、信息的准确解读、知识的深入理解、智慧的合理应用,以及目标的明确设定,这五个层面的紧密结合,为构建更加智能、可信和负责任的AI系统奠定了基础。此外,文章还探讨了将伦理和社会责任融入AI系统的策略,指出如何在保证科学合理的同时,确保AI决策符合道德和社会标准。

文章的目的不仅在于理论上的探讨,更在于为AI领域的研究者和开发者提供实际可行的指导和建议。通过阐述DIKWP框架的具体应用方式和策略,旨在推动AI技术的发展同时,确保其在服务人类社会时的可靠性和责任性。

2 AI的当前挑战与DIKWP方法的必要性

2.1 AI的当前挑战

不透明性:AI系统,特别是基于深度学习的模型,其决策过程复杂难以追踪,导致“黑盒”效应。

不可预测性:AI的行为和决策结果在某些情境下难以预测,增加了使用风险。

伦理和责任问题:AI作出的决策可能会违反人类的道德伦理标准,其责任归属亦不明确。

2.2 DIKWP方法的提出

解决AI挑战的途径:DIKWP方法通过明确AI决策的每一个阶段,提供一种结构化的逻辑框架,用于解释和理解AI的决策过程。

理论基础:DIKWP方法借鉴了人类的认知过程,将AI决策分解为数据、信息、知识、智慧和意图五个层次,每个层次都具有可解释性。

3 DIKWP框架的核心要素

3.1 数据层(D

定义:原始事实和观测结果的集合。

作用:为AI提供决策的基础和起点。

透明化策略:公开数据来源、类型和处理方式,确保数据的真实性和准确性。

3.2 信息层(I

定义:从数据中提炼的有价值内容。

作用:将数据转化为有用的信息,为AI提供决策的上下文。

透明化策略:展示从数据到信息的转化过程,使之可追踪和可理解。

3.3 知识层(K

定义:信息与先验知识的结合体。

作用:为AI提供决策的逻辑和规则。

透明化策略:阐释如何将信息与已有知识相结合,形成决策规则。

3.4 智慧层(W

定义:基于知识对复杂情境的理解和预测。

作用:使AI能够在复杂多变的环境中作出合理决策。

透明化策略:评估决策的社会和伦理影响,确保决策符合道德标准。

3.5 意图层(P

定义:决策的目标和预期结果。

作用:指导AI决策以实现特定目标。

透明化策略:明确决策目标和预期结果,展示如何实现这些目标。

4 概念-语义关联的基础

DIKWP方法作为一种全面的认知框架,涵盖了数据、信息、知识、智慧和意图这五个连续的认知处理阶段。这个框架不仅适用于人类的认知过程,也同样适用于人工智能系统。通过这个方法,可以实现从概念到语义的转换,即从具体的数据元素到其背后深层次意义的转化。这种转化是通过DIKWP各阶段之间的互补和校验来实现的,从而使人工智能系统的决策过程变得更加透明、可解释。

5 概念-语义关联的实现

5.1 概念的定义与语义的提取

DIKWP框架中,每个层次都有其概念定义,如数据层的“原始事实”、信息层的“有价值内容”等。

通过提取每个层次的语义内容,可以将抽象的概念转化为具体的、可操作的认知元素。

5.2 DIKWP中的语义空间

DIKWP框架内,每个层次不是孤立的,而是通过语义关联相互连接。例如,数据层的原始事实通过信息层的加工转化为有用的信息。

这种语义关联在AI系统中实现为连续的认知流程,从而确保决策过程的逻辑性和合理性。

6 DIKWP的互补与校验

6.1互补性

DIKWP中的每个层次都是对前一个层次的补充和深化。例如,知识层补充了信息层的内容,提供了更加深入的认知分析。

这种互补性确保AI系统在整个决策过程中不会遗漏关键的认知元素。

6.2 校验机制

DIKWP框架内部含有自校验机制。例如,智慧层可以根据伦理标准对知识层的决策进行评估和调整。

这种校验机制确保AI决策不仅基于数据和信息,还符合道德和社会标准。

7 DIKWP语义空间中的互补与校验

7.1 互补性

数据与信息的互补:数据层提供原始事实,而信息层对这些事实进行初步的语义加工。

知识与智慧的互补:知识层提供规则和模型,智慧层则在此基础上进行更深入的语义解析和决策。

7.2 校验过程

从信息到知识的校验:信息层提炼的语义通过知识层的理论和模型进行校验,确保其合理性。

智慧层的综合校验:智慧层对之前所有层次的校验进行综合评估,确保决策的全面性和深入性。

8 DIKWP方法应用于AI系统

8.1 数据层(D)与概念认知

数据收集和处理:在这一阶段,AI系统收集原始数据,这是所有后续认知过程的基础。

推理过程:通过明确展示数据处理过程,解释数据如何影响AI的决策,提高用户对AI决策基础的理解。

概念认知:数据层强调的是对事实的直接捕捉,这是概念认知的基础。

8.2 信息层(I)与语义提炼

信息提炼:信息层关注于从原始数据中提炼有意义的模式和联系。

推理过程:通过展示从数据到信息的转化过程,使用户理解AI决策的依据。

语义层面:这一阶段开始涉及到对数据背后深层次意义的理解,即从概念走向语义的起始点。

8.3 知识层(K)的校验作用

知识应用:知识层通过现有的规则、模型和理论来解释信息。

推理过程:阐述AI系统如何将信息与现有知识结合,形成决策逻辑。

校验过程:在这一阶段,通过已有知识来校验前面信息层提炼出的语义,确保其准确性和合理性。

8.4 智慧层(W)的决策智能

智慧应用:智慧层考虑更广泛的社会、伦理因素,进行决策。

推理过程:分析AI决策的可能社会后果,确保决策符合伦理和社会标准。

决策的语义深度:在这一层,AI系统的决策不仅基于事实和知识,还包括对复杂情境的理解和预测,体现了语义理解的深度。

8.5 意图层(P)的目标导向

意图明确:意图层确立了AI系统的最终目标和预期结果。

推理过程:解释如何将各层次的分析整合,形成符合预定目标的决策方案。

语义实现的终点:在这个阶段,通过明确的目标,将之前所有阶段的语义理解整合应用,实现目标导向的决策。

9 实现人机双向可解释性的策略

9.1 增强透明度

策略:使AI系统的每个决策层次都具备可解释性。

论证:增加系统透明度有助于用户理解AI如何工作,提高信任度。

9.2 互动性增强

策略:允许用户与AI系统进行交互,以更好地理解和影响其决策。

论证:互动性可以提高用户对AI系统的理解,让AI决策过程更贴近用户的需求和期望。

9.3 用户教育

策略:为用户提供必要的教育资源,帮助他们理解AI

论证:教育用户有助于降低对AI技术的误解和恐慌,增加其接受度。

9.4 伦理指导的整合

策略:在AI系统设计中融入伦理指导原则。

论证:确保AI系统符合伦理和社会标准,增强其社会接受度和责任感。

9.5 反馈机制

策略:建立有效的反馈机制,使用户能够报告问题并提供改进建议。

论证:反馈机制可以帮助开发者改进AI系统,使其更加符合用户需求和社会期望。

总结

本文全面探讨了DIKWP框架在提升AI系统透明度、可信度和责任感方面的重要性和应用。DIKWP框架的核心在于通过明确数据、信息、知识、智慧和目的的分层处理,使AI决策过程更加透明和可理解,从而增强用户对AI系统的信任并确保其道德和社会责任。

文章强调了在AI系统中融入DIKWP框架的必要性和紧迫性。随着AI技术的快速发展和广泛应用,用户对AI系统的可靠性和可解释性提出了更高的要求。DIKWP框架正是针对这些需求提出的,它通过确保数据处理的透明度、信息的准确解释、知识的深入应用、智慧的合理运用和目标的明确设定,为构建更加高效、可信和负责任的AI系统提供了指导。

文章还详细讨论了如何将伦理和社会责任融入AI系统的决策过程中。通过在AI决策中考虑伦理和社会责任,可以确保AI系统在服务人类的同时,符合道德和社会标准。这不仅有助于提升AI系统的社会接受度,还有助于防止AI技术被滥用。

文章提出了实现这一目标的具体策略和方法,包括如何在AI系统设计和开发阶段就引入DIKWP框架,以及如何在实际运用中不断完善和优化这一框架。这些策略和方法为AI领域的研究者和开发者提供了宝贵的指导,有助于推动AI技术的健康和可持续发展。

综上所述,DIKWP框架为构建透明、可信和负责任的AI系统提供了有效的理论和实践框架。随着AI技术的不断进步和深入人类社会的各个领域,DIKWP框架的应用将在促进AI技术发展的同时,确保其符合人类社会的伦理和责任标准。


参考文献

 

[1] Duan Y. Which characteristic does GPT-4 belong to? An analysis through DIKWP model. DOI: 10.13140/RG.2.2.25042.53447. https://www.researchgate.net/publication/375597900_Which_characteristic_does_GPT-4_belong_to_An_analysis_through_DIKWP_model_GPT-4_shishenmexinggeDIKWP_moxingfenxibaogao. 2023.

[2] Duan Y. DIKWP Processing Report on Five Personality Traits. DOI: 10.13140/RG.2.2.35738.00965. https://www.researchgate.net/publication/375597092_wudaxinggetezhide_DIKWP_chulibaogao_duanyucongYucong_Duan. 2023.

[3] Duan Y. Research on the Application of DIKWP Model in Automatic Classification of Five Personality Traits. DOI: 10.13140/RG.2.2.15605.35047. https://www.researchgate.net/publication/375597087_DIKWP_moxingzaiwudaxinggetezhizidongfenleizhongdeyingyongyanjiu_duanyucongYucong_Duan. 2023.

[4] Duan Y, Gong S. DIKWP-TRIZ method: an innovative problem-solving method that combines the DIKWP model and classic TRIZ. DOI: 10.13140/RG.2.2.12020.53120. https://www.researchgate.net/publication/375380084_DIKWP-TRIZfangfazongheDIKWPmoxinghejingdianTRIZdechuangxinwentijiejuefangfa. 2023.

[5] Duan Y. The Technological Prospects of Natural Language Programming in Large-scale AI Models: Implementation Based on DIKWP. DOI: 10.13140/RG.2.2.19207.57762. https://www.researchgate.net/publication/374585374_The_Technological_Prospects_of_Natural_Language_Programming_in_Large-scale_AI_Models_Implementation_Based_on_DIKWP_duanyucongYucong_Duan. 2023.

[6] Duan Y. The Technological Prospects of Natural Language Programming in Large-scale AI Models: Implementation Based on DIKWP. DOI: 10.13140/RG.2.2.19207.57762. https://www.researchgate.net/publication/374585374_The_Technological_Prospects_of_Natural_Language_Programming_in_Large-scale_AI_Models_Implementation_Based_on_DIKWP_duanyucongYucong_Duan. 2023.

[7] Duan Y. Exploring GPT-4, Bias, and its Association with the DIKWP Model. DOI: 10.13140/RG.2.2.11687.32161. https://www.researchgate.net/publication/374420003_tantaoGPT-4pianjianjiqiyuDIKWPmoxingdeguanlian_Exploring_GPT-4_Bias_and_its_Association_with_the_DIKWP_Model. 2023.

[8] Duan Y. DIKWP language: a semantic bridge connecting humans and AI. DOI: 10.13140/RG.2.2.16464.89602. https://www.researchgate.net/publication/374385889_DIKWP_yuyanlianjierenleiyu_AI_deyuyiqiaoliang. 2023.

[9] Duan Y. The DIKWP artificial consciousness of the DIKWP automaton method displays the corresponding processing process at the level of word and word granularity. DOI: 10.13140/RG.2.2.13773.00483. https://www.researchgate.net/publication/374267176_DIKWP_rengongyishide_DIKWP_zidongjifangshiyiziciliducengjizhanxianduiyingdechuliguocheng. 2023.

[10] Duan Y. Implementation and Application of Artificial wisdom in DIKWP Model: Exploring a Deep Framework from Data to Decision Making. DOI: 10.13140/RG.2.2.33276.51847. https://www.researchgate.net/publication/374266065_rengongzhinengzai_DIKWP_moxingzhongdeshixianyuyingyongtansuocongshujudaojuecedeshendukuangjia_duanyucongYucong_Duan. 2023.

 


段玉聪教授,海南大学计算机科学与技术学院的教授,博士生导师, 第一批入选海南省南海名家计划、海南省领军人才,2006年毕业于中国科学院软件研究所,先后在清华大学、首都医科大学、韩国浦项工科大学、法国国家科学院、捷克布拉格查理大学、意大利米兰比克卡大学、美国密苏里州立大学等工作与访学。现任海南大学计算机科学与技术学院学术委员会委员、海南大学数据、信息、知识、智慧、意图DIKWP创新团队负责人、兼北京信用学会高级顾问、重庆警察学院特聘研究员、海南省委双百人才团队负责人、海南省发明协会副会长、海南省知识产权协会副会长、海南省低碳经济发展促进会副会长、海南省农产品加工企业协会副会长、美国中密西根大学客座研究员及意大利摩德纳大学的博士指导委员会委员等职务。自2012年作为D类人才引进海南大学以来,累计发表论文260余篇,SCI收录120余次,ESI高被引11,引用统计超过4300次。面向多行业、多领域设计了241件(含15PCT发明专利)系列化中国国家及国际发明专利,已获授权第1发明人中国国家发明专利及国际发明专利共85件。2020年获吴文俊人工智能技术发明三等奖;2021年作为程序委员会主席独立发起首届国际数据、信息、知识与智慧大会-IEEE DIKW 20212022年担任IEEE DIKW 2022大会指导委员会主席;2023年担任IEEE DIKW 2023大会主席;2022年获评海南省最美科技工作者(并被推全国);2022年与2023年连续入选美国斯坦福大学发布的全球前2%顶尖科学家的终身科学影响力排行榜榜单。参与研制IEEE金融知识图谱国际标准2项、行业知识图谱标准4项。2023年发起并共同举办首届世界人工意识大会(Artificial Consciousness 2023, AC2023)

 

 

 

 

 

段玉聪 教授Prof. Yucong Duan

DIKWP人工意识实验室

AGI-AIGC-GPT评测DIKWP(全球)实验室

DIKWP research group,海南大学

 

duanyucong@hotmail.com

 

 

 

段玉聪,海南大学计算机科学与技术学院教授,博士生导师, 第一批入选海南省南海名家计划、海南省领军人才,2006年毕业于中国科学院软件研究所,先后在清华大学、首都医科大学、韩国浦项工科大学、法国国家科学院、捷克布拉格查理大学、意大利米兰比克卡大学、美国密苏里州立大学等工作与访学。现任海南大学计算机科学与技术学院学术委员会委员、海南大学数据、信息、知识、智慧、意图DIKWP创新团队负责人、兼北京信用学会高级顾问、重庆警察学院特聘研究员、海南省委双百人才团队负责人、海南省发明协会副会长、海南省知识产权协会副会长、海南省低碳经济发展促进会副会长、海南省农产品加工企业协会副会长、海南省人工智能学会高级顾问、美国中密西根大学客座研究员及意大利摩德纳大学的博士指导委员会委员等职务。自2012年作为D类人才引进海南大学以来,累计发表论文260余篇,SCI收录120余次,ESI高被引11篇,引用统计超过4300次。面向多行业、多领域设计了241件(含15件PCT发明专利)系列化中国国家及国际发明专利,已获授权第1发明人中国国家发明专利及国际发明专利共85件。2020年获吴文俊人工智能技术发明三等奖;2021年作为程序委员会主席独立发起首届国际数据、信息、知识与智慧大会-IEEE DIKW 2021;2022年担任IEEE DIKW 2022大会指导委员会主席;2023年担任IEEE DIKW 2023大会主席;2022年获评海南省最美科技工作者(并被推全国);2022年与2023年连续入选美国斯坦福大学发布的全球前2%顶尖科学家的“终身科学影响力排行榜”榜单。参与研制IEEE金融知识图谱国际标准2项、行业知识图谱标准4项。2023年发起并共同举办首届世界人工意识大会(Artificial Consciousness 2023, AC2023)。

 

 

数据(Data)可视为我们认知中相同语义的具体表现形式。通常,数据代表着具体的事实或观察结果的存在语义确认,并通过与认知主体已有认知对象的存在性包含的某些相同语义对应而确认为相同的对象或概念。在处理数据时,我们常常寻求并提取标定该数据的特定相同语义,进而依据对应的相同语义将它们统一视为一个相同概念。例如,当我们看到一群羊时,虽然每只羊可能在体型、颜色、性别等方面略有不同,但我们会将它们归入“羊”的概念,因为它们共享了我们对“羊”这个概念的语义理解。相同语义可以是具体的如识别手臂时可以根据一个硅胶手臂与人的手臂的手指数量的相同、颜色的相同、手臂外形的相同等相同语义进行确认硅胶手臂为手臂,也可以通过硅胶手臂不具有真实手臂的可以旋转对应的由“可以旋转”定义的相同语义,而判定其不是手臂。

 

信息(Information)则对应认知中不同语义的表达。通常情况下,信息指的是通过特定意图将认知DIKWP对象与认知主体已经认知的数据、信息、知识、智慧或意图联系起来,产生新的语义关联。在处理信息时,我们会根据输入的数据、信息、知识、智慧或意图,找出它们被认知的DIKWP对象的不同之处,对应不同的语义,并进行信息分类。例如,在停车场中,尽管所有的汽车都可以归入“汽车”这一概念,但每辆车的停车位置、停车时间、磨损程度、所有者、功能、缴费记录和经历都代表着信息中不同的语义。信息对应的不同语义经常存在于认知主体的认知中,常常未被显式表达出来,例如抑郁症患者可能用自己情绪“低落”来表达自己当前的情绪相对自己以往的情绪的下降,但这个“低落”对应的信息因为其对比状态不被听众了解而不能被听众客观感受到,从而成为该患者自己主观的认知信息。

 

知识(Knowledge)对应于认知中的完整语义。知识是通过观察和学习获得的对世界的理解和解释。在处理知识时,我们通过观察和学习抽象出至少一个完整语义对应的概念或模式。例如,通过观察我们得知所有的天鹅都是白色,这是我们通过收集大量信息后对“天鹅都是白色”这一概念的完整认知。

 

智慧(Wisdom)对应伦理、社会道德、人性等方面的信息,是一种来自文化、人类社会群体的相对于当前时代固定的极端价值观或者个体的认知价值观。在处理智慧时,我们会整合这些数据、信息、知识、智慧,并运用它们来指导决策。例如,在面临决策问题时,我们会综合考虑伦理、道德、可行性等各个方面的因素,而不仅仅是技术或效率。

 

意图(Purpose)可以看作是一个二元组(输入,输出),其中输入和输出都是数据、信息、知识、智慧或意图的内容。意图代表了我们对某一现象或问题的理解(输入),以及我们希望通过处理和解决该现象或问题来实现的目标(输出)。在处理意图时,人工智能系统会根据其预设的目标(输出),处理输入的内容,通过学习和适应,使输出逐渐接近预设的目标。





https://blog.sciencenet.cn/blog-3429562-1412993.html

上一篇:DIKWP、LeCun世界模型与GPT-4在人工通用智能中的应用与整合
下一篇:智商与情商测评的DIKWP模型分析:当前挑战与未来方向
收藏 IP: 59.50.85.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-2-28 14:26

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部