YucongDuan的个人博客分享 http://blog.sciencenet.cn/u/YucongDuan

博文

(摘要)段玉聪:借助“人工意识系统=潜意识系统(LLM)+意识系统(DIKWP)”解决算法偏见

已有 462 次阅读 2024-3-4 10:13 |系统分类:科研笔记

(摘要)

段玉聪:借助“人工意识系统=潜意识系统(LLM)+意识系统(DIKWP)”

解决算法偏见 

段玉聪(Yucong Duan)

DIKWP-AC人工意识实验室

AGI-AIGC-GPT评测DIKWP(全球)实验室

DIKWP research group, 海南大学

摘要

在人工智能(AI)不断进步的今天,如何建构能够模拟人类复杂思维过程的AI系统,以及如何解决算法背后潜在的偏见问题,成为了研究的重点。段玉聪教授提出的“人工意识系统=潜意识系统(LLM)+意识系统(DIKWP)”理论,不仅在理论上为模拟人类意识和潜意识的动态交互提供了新的视角,也为解决AI系统中的语义偏见问题提供了创新的方法。本报告旨在深入探讨段教授的理论框架,分析其对于构建高度智能且公正的AI系统的意义。

1. 理论背景

人类的思维过程是复杂且动态的,涉及意识和潜意识的交互。传统AI系统在模拟这一过程时往往忽略了意识与潜意识之间的复杂关系,导致无法完全模拟人类的决策过程。此外,算法偏见问题——由数据、开发者的主观性、以及算法设计中的局限性导致的问题——已成为影响AI系统公正性和可靠性的关键挑战。

2. 人工意识系统框架

段玉聪教授提出的人工意识系统通过整合潜意识系统和意识系统,旨在更全面地模拟人类思维过程:

  • 潜意识系统(LLM):利用大型语言模型处理海量数据,模拟人类直觉反应和快速信息处理的能力。

  • 意识系统(DIKWP):基于数据、信息、知识、智慧、意图的综合处理,模拟人类深度思考和有目的的决策过程。

通过这一框架,AI系统能够在处理复杂问题时更接近人类的思维方式,实现更高层次的认知功能。

3. 解决算法偏见的策略3.1 意图驱动的语义框架建立

通过明确AI系统的目的(Purpose),构建包含多元视角和价值观的语义框架,确保系统在处理信息时能够全面考虑不同文化和社会背景。

3.2 动态语义关系学习

AI系统需要不断适应和学习新的语义关系,以识别和纠正因语言和文化演变而产生的潜在偏见。

3.3 多维度语义分析

通过引入跨文化、跨社会的多维度语义分析,AI系统可以更准确地理解和处理信息,避免单一视角带来的偏见。

3.4 用户反馈和参与

鼓励用户反馈和参与,使AI系统能够学习和适应多样化的语义解释和用户期望,进一步优化处理流程和结果。

4. 实施过程和挑战

实施段玉聪教授的理论框架面临多重挑战,包括如何有效整合和协调潜意识系统和意识系统的工作,以及如何确保AI系统能够实时更新和适应不断变化的语义环境。此外,构建一个全面包容的语义框架,以及设计有效的用户反馈机制,也是实施过程中需要解决的关键问题。

5. 结论

段玉聪教授的理论为人工智能领域提供了一种全新的思考方式和实践路径。通过精心设计的人工意识系统,该理论不仅推动了AI技术的发展,也为构建更公正、更可靠的AI系统提供了理论支持和实践指南。展望未来,基于段教授理论框架的AI系统有望在多个领域实现创新应用,为解决复杂社会问题提供强有力的技术支撑。

    段玉聪,海南大学计算机科学与技术学院教授,博士生导师, 第一批入选海南省南海名家计划、海南省领军人才,2006年毕业于中国科学院软件研究所,先后在清华大学、首都医科大学、韩国浦项工科大学、法国国家科学院、捷克布拉格查理大学、意大利米兰比克卡大学、美国密苏里州立大学等工作与访学。现任海南大学计算机科学与技术学院学术委员会委员、海南大学数据、信息、知识、智慧、意图DIKWP创新团队负责人、兼北京信用学会高级顾问、重庆警察学院特聘研究员、海南省委双百人才团队负责人、海南省发明协会副会长、海南省知识产权协会副会长、海南省低碳经济发展促进会副会长、海南省农产品加工企业协会副会长、海南省人工智能学会高级顾问、美国中密西根大学客座研究员及意大利摩德纳大学的博士指导委员会委员等职务。自2012年作为D类人才引进海南大学以来,累计发表论文260余篇,SCI收录120余次,ESI高被引11篇,引用统计超过4300次。面向多行业、多领域设计了241件(含15件PCT发明专利)系列化中国国家及国际发明专利,已获授权第1发明人中国国家发明专利及国际发明专利共85件。2020年获吴文俊人工智能技术发明三等奖;2021年作为程序委员会主席独立发起首届国际数据、信息、知识与智慧大会-IEEE DIKW 2021;2022年担任IEEE DIKW 2022大会指导委员会主席;2023年担任IEEE DIKW 2023大会主席;2022年获评海南省最美科技工作者(并被推全国);2022年与2023年连续入选美国斯坦福大学发布的全球前2%顶尖科学家的“终身科学影响力排行榜”榜单。参与研制IEEE金融知识图谱国际标准2项、行业知识图谱标准4项。2023年发起并共同举办首届世界人工意识大会(Artificial Consciousness 2023, AC2023)。

      

    数据(Data)可视为我们认知中相同语义的具体表现形式。通常,数据代表着具体的事实或观察结果的存在语义确认,并通过与认知主体已有认知对象的存在性包含的某些相同语义对应而确认为相同的对象或概念。在处理数据时,我们常常寻求并提取标定该数据的特定相同语义,进而依据对应的相同语义将它们统一视为一个相同概念。例如,当我们看到一群羊时,虽然每只羊可能在体型、颜色、性别等方面略有不同,但我们会将它们归入“羊”的概念,因为它们共享了我们对“羊”这个概念的语义理解。相同语义可以是具体的如识别手臂时可以根据一个硅胶手臂与人的手臂的手指数量的相同、颜色的相同、手臂外形的相同等相同语义进行确认硅胶手臂为手臂,也可以通过硅胶手臂不具有真实手臂的可以旋转对应的由“可以旋转”定义的相同语义,而判定其不是手臂。

     信息(Information)则对应认知中不同语义的表达。通常情况下,信息指的是通过特定意图将认知DIKWP对象与认知主体已经认知的数据、信息、知识、智慧或意图联系起来,产生新的语义关联。在处理信息时,我们会根据输入的数据、信息、知识、智慧或意图,找出它们被认知的DIKWP对象的不同之处,对应不同的语义,并进行信息分类。例如,在停车场中,尽管所有的汽车都可以归入“汽车”这一概念,但每辆车的停车位置、停车时间、磨损程度、所有者、功能、缴费记录和经历都代表着信息中不同的语义。信息对应的不同语义经常存在于认知主体的认知中,常常未被显式表达出来,例如抑郁症患者可能用自己情绪“低落”来表达自己当前的情绪相对自己以往的情绪的下降,但这个“低落”对应的信息因为其对比状态不被听众了解而不能被听众客观感受到,从而成为该患者自己主观的认知信息。

     知识(Knowledge)对应于认知中的完整语义。知识是通过观察和学习获得的对世界的理解和解释。在处理知识时,我们通过观察和学习抽象出至少一个完整语义对应的概念或模式。例如,通过观察我们得知所有的天鹅都是白色,这是我们通过收集大量信息后对“天鹅都是白色”这一概念的完整认知。

     智慧(Wisdom)对应伦理、社会道德、人性等方面的信息,是一种来自文化、人类社会群体的相对于当前时代固定的极端价值观或者个体的认知价值观。在处理智慧时,我们会整合这些数据、信息、知识、智慧,并运用它们来指导决策。例如,在面临决策问题时,我们会综合考虑伦理、道德、可行性等各个方面的因素,而不仅仅是技术或效率。

     意图(Purpose)可以看作是一个二元组(输入,输出),其中输入和输出都是数据、信息、知识、智慧或意图的内容。意图代表了我们对某一现象或问题的理解(输入),以及我们希望通过处理和解决该现象或问题来实现的目标(输出)。在处理意图时,人工智能系统会根据其预设的目标(输出),处理输入的内容,通过学习和适应,使输出逐渐接近预设的目标。



https://blog.sciencenet.cn/blog-3429562-1424004.html

上一篇:《段玉聪推荐人工意识芯片设计必读50篇》-第2届世界人工意识大会AC2024科普系列
下一篇:(摘要)DIKWP与语义心理学
收藏 IP: 140.240.36.*| 热度|

1 xtn

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-5-25 03:46

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部