YucongDuan的个人博客分享 http://blog.sciencenet.cn/u/YucongDuan

博文

人工智能DIKWP国际测评标准国际委员会标准规划会议-日期:2024年05月24日

已有 571 次阅读 2024-5-28 13:52 |系统分类:博客资讯

人工智能DIKWP国际测评标准国际委员会标准规划会议

会议纪要

 

 

日期:20240524

参会人员:人工智能DIKWP测评国际标准委员会委员

 

在本次人工智能DIKWP国际测评标准国际委员会标准规划会议中,与会专家围绕DIKWP框架的关键术语定义、标准制定原则、认知及语义空间的界定,以及知识产生过程的阐释展开了深入讨论。会议强调了大模型的突破与局限性,指出新标准对风险管理的重要性,并提议针对概念、语义、认知三个空间联动制定差异化测评标准,以适应测评从概念向语义空间的过渡。有专家表示标准需要对三个空间定,一个是概念空间,就是自然语言表达的。另一个是语义空间,是突破概念符号约束的空间来做标准。因为实际上测评已经突破概念空间,往语义空间过渡了。第三个是认知空间,而且这三个空间可能都需要联动起来,面向这三个空间定标准,也就是说这三个空间测评标准会是不一样的。因为前面的很多标准都是面向概念空间定的标准。

关于知识的定义,专家们探讨了定义的全面性,强调需明确知识获取的主体、操作性及解释层面,确保定义的数学逻辑性。回顾对数据、信息的定义,有专家提出将“粗糙理解”改为“理解”,同时修改了表述中过于口语化的部分内容。有专家建议将标题部分“学术定义”这个标题进行删除,获得了其他专家的赞同。有专家建议是否需要谈一下知识在一般情况下是怎么产生的或者是在其他部分表达一下这种互动。最好是对前面DIKWP网络关系进行一个全面的解释。有专家提出这部分呢内容工程量较大可以在后续的版本中进行更新,除了数据之外,有些地方也是需要修改。有专家表示知识实际上是是一个产品。它的生产过程应该像道格拉斯函数一样,输入的东西如何在一块儿作用,生成什么样的知识。你输入的是什么,模型是什么,然后生成的是什么的,这就是一个流程工艺流程。

在编制说明部分有专家建议“考察人工智能在不同认知网络上  的理解和处理能力中的认知网络,应该修改为认知网络层次上,因为这个既有网络,它还有层次。尽管是个网络,但它不是一个对等的,它的功能实际上是个升级的。关注模型的公平性、公正性、平等性这部分应该修改为关注模型的共享性,公正性、公平性、隐私保护性。对于修改意见有专家提出既然是大家自由修改的方式,最后是制定一个投票规则保证一定的公平性。有专家表示从别的相关会议决意经验来看,全体参会人员中有三分之二的赞成票是一种简洁而有效的决策机制。但考虑到我们会议的特殊性,即参会人员不固定,且可能存在对之前修改情况和讨论过程不够了解的情况,所以,我认为需要一种更为灵活且公允的决策方式。因此每次会议中,只要有五位或以上的参会人员表示同意,我们就可以将该项决议视为有效。这种方式虽然不能保证决议的100%民主和公正,但是能代表并反映大多数人的意愿。经过多位专家的讨论,最终确定修改为“认知网络层次上”和“关注模型的共享性,公正性、公平性、隐私保护性”,每个修改提案都有经过专家的一致同意。

有专家提出“其能够将认知空间、意识空间、语义空间和概念空间关联到一起”这部分内容最好修改为“通过仿生,将概念空间,认知空间,语义空间和意识空间”仿生是仿照人的感知和认知过程。感知一般通过眼耳鼻舌身脑来实现,至少是眼耳鼻舌身。有专家表示如果我们加入仿生技术,会增加很多内容,实际上会增加一个约束条件。也就是说,在实现的过程中,我们只在仿生范围内进行仿生,我们有可能丢弃了非仿生的方式。所有建议将“仿生”这个词删掉,获得了其他专家的赞同。其他专家强调了4个空间的顺序,通过专家委员的投票通过了修改意见最终修改为概念空间,语义空间,认知空间和意识空间”。

针对知识结构化表示的改进,专家们建议在语义网络中融入权重概念,通过图论方法明确节点间关系的强度,同时指出权重不仅是数据范畴的体现,还涉及到信息关系的转化,提出探索节点间关系的强弱对比而非单一权重值。有专家表示在权重节点之间权重的表示方式上,这是一个传统的方式。如果将传统方式放到DIKWP框架下考虑其完整性,节点之间的权重往往落入我们的数据范畴。如果权重落入数据范畴,在DIKWP框架下考虑我们定义本身的标准完整性上,这是一个很难的问题。可能不仅仅有权重的数据关系,可能还有信息关系。如果说是信息关系的话,那么知识之间的节点之间关系的权重、语义的权重就意味着这个节点之间的关系进行了一个转换,转换到一个数据范畴内就能衡量出他们的权重了。这个时候可能不是权重,而是信息之间的强弱对比。例如,我们不给出权重,但给出他们之间的强弱对比,这可能是个信息。

实际上,当我们对它进行分层时,它实际上变成了一个概念空间的事情。因为在概念空间中,我们才能够对它进行分层。但是分层是一个必要的工程性步骤,因为只有有了概念,我们才能够有意识地进行处理。实际上,大脑在进行很多活动时,都是无意识或潜意识下进行的。但是当我们对它进行分层时,我们能够处理它,符号化它,使其更概念化,更能够互相表达,这是必要的工程性手段。在分层的情况下,我们已经进入了一个概念框空间。在处理时,我们希望能够在认知上考虑到完整性,实际上也是在考虑语义完整性。我们的目标也就是是在概念上处理,考虑到概念之间的转换关系。因此,我们需要对概念进行处理,以实现完整性的话语和完整性的话。我们需要在语义空间里将它们打通,也就是通过转换,这就是知识在概念空间上的表达。实际上,我们的语义空间是不定型的,而概念空间是定型的。概念空间是我们的工具。

有专家提出AD代表了我们通常对于权重的这个部分。AI是没有获得两个节点之间关系转化也不能进行数据化,但是能够得到这两个关系的强弱差异。我们想让AD系统更加自动化,与人工智能系统的处理相匹配。虽然AD系统可以处理所有问题,但它面临着主观性的问题,需要设置阈值。由于AD系统必须将所有东西数据化,无论我们想要表达的认知内容或语义内容,都需要将其数据化。这个过程实际上会导致语义损失。从整个DIKWP语义空间的角度来看,这种损失是不可避免的。有时甚至不仅仅是语义损失。这个过程是自动化里边的一个门槛设定非常主观和系统反映真实情况的一个主观的客观化过程。这个主观的客观化过程我们可以保留它,但是我们其实好多情况下并不需要知道这个数值,我们只需要知道它们的偏序关系就可以有意义了。但这个时候没有经过对它的数据化的过程,直接就是用一个I它们之间的相互关系得到就可以了。这个时候我们可能要对这个地方要做一个扩展。

会议总结时,专家提醒标准应聚焦于共性原则的粗线条勾勒,旨在形成普遍适用的指导规范,而非具体算法,以促进国际间的通用性和适应不同应用场景的需求。概念空间的数学建模被确认为按分类方式处理数据概念节点与关系,区分DIKWP数据概念与信息概念节点的处理方式。

 

后续行动建议:

· 继续深化对知识及其他后续阶段(如知识到智慧)的定义细化工作。

· 落实会议中达成一致的修改意见,更新标准文档。

· 探讨如何在标准化工作中平衡自动化与主观性,减少语义损失。

 

会议结束语:

本次会议成功推动了DIKWP框架中知识定义的优化进程,确立了多空间测评标准的制定方向,并对标准化工作中的关键议题进行了深入探讨,为后续国际测评标准的制定奠定了坚实基础。

 

编委单位:(不分先后,按首字母排序)

AIII人工智能国际研究院、AGI-AIGC-GPT评测DIKWP(全球)实验室、Institute of Management Sciences PeshawarBlue Edu、北京大学、北京科技大学、北京社院、北京标准化研究院、成都信息工程大学、重庆警察学院、东莞研华精密制造有限公司、广西师范大学、国家电网、海南大学、海南核电有限公司、海南普适智能科技有限公司、海南省市场监督管理局、海南医学院第二附属医院、华为编程语言实验室、华中农业大学、极氪汽车、江苏立卓信息技术有限公司、肯思德(珠海)有限公司、辽宁省辽阳市人民检察院、南京警察学院、内蒙古大学、宁波大学、清华大学研究院、山东大学、山西省数据局、上海航天信息科技研究院、上饶师范学院、深信服公司、世界人工意识协会、世界人工意识大会、太极计算机股份有限公司、腾讯研究院、西安理工大学、西南政法大学、粤港澳大湾区标准化研究中心、中国标准化研究院标准化理论战略研究所、中国机电一体化技术应用协会、中国信息通信研究院等



https://blog.sciencenet.cn/blog-3429562-1435959.html

上一篇:科幻小说:《全知之脑》-第2届世界人工意识大会花絮
下一篇:International Standardization Committee of Networked DIKWP
收藏 IP: 140.240.43.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-7-22 22:03

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部