YucongDuan的个人博客分享 http://blog.sciencenet.cn/u/YucongDuan

博文

首届DIKWP杯世界人工意识设计大赛-人工意识芯片设计赛道发布

已有 255 次阅读 2024-6-21 12:52 |系统分类:论文交流

首届DIKWP杯世界人工意识设计大赛-人工意识芯片设计赛道发布

 

主持人:

人工意识芯片设计的赛道,涉及人工意识芯片,希望尚德龙教授能够多多指导。

 

段玉聪教授

在这个里面我其实给我的研究生吴坤光先生一开学就提了一个问题。我说硬件软件化与软件硬件化,那么也有软件定义一切,等先进理念影响下AI与AC芯片设计一定有广泛需求和重大机遇。那个时候我就说,能不能把安全需求和意图用硬件而不是软件来实现,借助软件硬件化硬件软件化相互拥护拥抱的双向融合设计过程。从软件定义一切的角度,思考下找寻找包括安全在内的功能需求和服务质量的实现的理论和技术的边界。这个部分的工作还希望如果面向安全部分来做的话,也就是说我们会不会将来出现从硬件上就确保不会犯罪的AI或AC人工智能与人工意识硬件及其设计方法 

软件上我们一直在讲软件上不要犯罪不要算法偏见,比软件更底层的硬件上能不能落实实现呢?它的边界在哪里?似乎也没有说不能,确切的说不能做。这是一个维度还有一个维度,我们希望的是能够借助当前大语言模型通向AGI乃至通向人工意识的这个途径。我们就说是能够对芯片的设计,这个软硬件一体化开发全面的双向融合因为芯片的设计从意图驱动的角度来看的话,所有都是从意图出发,然后落实到对于数据、信息、知识和智慧的范畴,我们的自然语言概念表达还是语义的呈现我们意图驱动的思考过程中的形式化、数学化,就是借助我们DIKWP团队提出的两个词的话,就叫语义物理和语义数学这样的未来语义软件硬件化或硬件软件化技术,我们看能不能使新工业新的AI工业革命更加彻底,更加智能化。那么我可不可以请尚教授前面跟尚教授也有过请教和交流。那么请尚教授也做指示和补充。

 

尚德龙教授

首先非常感谢啊,段玉聪教授邀请我参与这个非常好的一个这样的会议那么对于这个赛道,实际上芯片赛道,就是刚才听到段教授介绍的非常有创意,包括硬件啊,软件啊,定义系统啊以及定义啊,确实是非常比较创意的那么这块就是说从我们芯片中计算机的角度来讲,就是软硬件的支撑硬件平台件是在上面展现的作用那么我们把这个界限放下去实际上没有说严格的一个定义。比如说我们曾经做过硬件操作系统,但是操作系统通常都是硬件操作系统。

 

它是这个软件对吧?他们是做这个生态也做不定的那这个为什么?但是我觉得这是非常好的事儿。就是说我们从一个生态的角度,让学生或者让参与者来去真正体会我们硬件也好软件也好的一个或者他在整个的一个芯片设计中起到一个角色。但是让我们设计者参与到其中,这是非常好的一个创意,我就非常支持这件事儿,也希望自己能能在其中做点贡献。

 

段玉聪教授

 

感谢尚教授,我又受尚教授启发了。其实我已经想到了一点,就是不犯罪的硬件芯片,我已经有一点思路了。这个思路可能是异想天开,请尚教授批评。但是我这个抛砖,我们可以想象一个不能看对儿童不的内容的掌上设备。我想这样的一个设计目标,我们要用上人工意识来突破概念空间的法制保护的局限,借助DIKWP对概念空间到语义空间的双向互动融合贯通,形成语义法学:在语义空间落实各种数据安全法、信息保护华、知识产权法等的实质性语义层面的需求,避免无良商家对概念空间的故意绕过等擦边行为。因为我们这个很明显的带有伦理道德的约束的,我希望把它借助DIKWP进行软件功能的硬件化实现,进而避免软件部分容易被恶意篡改和攻击的安全局限。

 

那么从硬件化怎么呼应转移软件功能呢?例如我们传递它可能就是说其实这个可能做小小限制。就我们假定儿童不宜内容它可能是对图像方式传递这个内容的话,我们不希望儿童看到。那么我们可以对硬件的图像加速部分做处理效率和带宽限制,可能只让他看图形方式的一些卡通的动画的一些东西。那基本上是可以在一定程度上约束他看不到了不合适的内容,还可以对这种思路的解决策略进行DIKWP映射,找出所有可能的DIKWP*DIKWP的25个基本交互模块中的解决思路我想这个赛道的同学一起努把力的话,在我看来形成一个更加牢固的人类AI命运共同体硬件防火墙充满希望,没有什么障碍。

 

尚德龙教授

 

应该是这个可以实现。

 

段玉聪教授

 

类似的各种伦理道德需求(注:DIKWP的智慧价值对齐和意图对齐)都让软件硬件化去实现。

 

尚德龙教授

 

对,首先可能是你怎么去识别这个用户是成人还是孩子。

 

段玉聪教授

 

但这个可以先设定。就是类型预设。也可以根据用户的DIKWP画像进行语义空间的用户身份和角色识别,比概念空间进行用户的限定要更加本质化。然后呢,对用户系统被特定类型的网络攻击可以做一个综合通用的防护体系的硬件芯片,能不能把自然语言表达的用户需求映射到DIKWP概念,进而在语义空间转化为一个DIKWP问题类型,或者一类DIKWP的问题,借助DIKWP人工意识,刚才讲的我们的DIKWP人工意识系统来把它在问题语义和结果语义都明确清晰的情况下进行求解。

 

尚德龙教授

是这样,至于这个硬件安全性问题,实际上从硬件芯片角度,包括早期的AESRSA加密算法,实际上是有硬件的解决方案的?包括现在的一个叫做同态加密其实也是有硬件。这确实是非常好。

 

段玉聪教授

我在想其实好像是刚才您都提到硬件操作系统了,好像硬件能做的软件都能做,软件能做的理论上硬件都能做。

 

尚德龙教授

理论上

段玉聪教授

 

所以说这个事情做起来,那么得到尚教授的这个指导的话,我们希望这块能做些产品出来。然后在人工意识治理块,就是说是未来我们就用硬件来做限制了,或者说甚至拿算力来限制了,它就不会在语义空间内出现很坏的与人类意图违背的东西。

 

 

 

 



https://blog.sciencenet.cn/blog-3429562-1439139.html

上一篇:赵地教授-为第2届世界人工意识大会及首届DIKWP杯世界人工意识设计大赛发布会致辞 (含段玉聪教授主持交流环节)
下一篇:首届DIKWP杯世界人工意识设计大赛-机器人赛道发布
收藏 IP: 140.240.38.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-6-26 01:38

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部