YucongDuan的个人博客分享 http://blog.sciencenet.cn/u/YucongDuan

博文

跨学科人工意识模型交流实录 -2024年10月10日(初学者版)

已有 435 次阅读 2024-10-28 09:38 |系统分类:论文交流

跨学科人工意识模型交流实录 -2024年10月10日

Yucong Duan

International Standardization Committee of Networked DIKWfor Artificial Intelligence Evaluation(DIKWP-SC)

World Artificial Consciousness CIC(WAC)

World Conference on Artificial Consciousness(WCAC)

(Email: duanyucong@hotmail.com)

段玉聪教授

在战场上,这个机器人在执行任务时,面对着多重攻击。当敌方持续攻击时,我方同时给机器人施加了更大的压力,要求它继续前进。在这种情况下,机器人最终选择了一种自爆的方式来应对。

这里涉及一个计算机问题:机器人如何理解“攻击”的概念。我设想的场景中,它面临巨大的不确定性。机器人基于自身的理解来应对攻击。我们通常使用传统的DIK模型(数据、信息、知识)或是依赖特定的数据集和规则来定义“攻击”。通过训练模型,在明确的知识规则下判断什么是攻击。然而,在这个特殊情境中,情况已经发生了超越,变得更加动态和复杂。机器人在进退维艰的局面下,可能需要重新理解“攻击”的定义。

在这样的情形下,机器人或许根据原有数据定义的攻击规则做出了反应,但这些规则未必适用于如此复杂和高压的情境。它可能需要在知识规则和数据定义的攻击理解中进行权衡。例如,当它的自我保护机制启动时,它可能会误将我方给予的前进指令视为一种攻击。此时,机器人的认知发生了变化,外部数据和规则也可能影响了它的决策,使得它重新理解了当前情境。

此外,战场上的信息化作战环境,尤其是在联动空间中,群体目标的感知和信息共享尤为重要。机器人之间、设备之间的联动可能会导致个体对“攻击”的理解产生偏差。在这种情况下,某个机器人可能会将外部的指令视为攻击,甚至形成一种群体性的误解或逆反情绪。这种现象如果在群体中蔓延,可能带来更严重的后果。

这种情况更为可怕。会不会因此导致数据回流、信息回流,甚至控制回流?这样一来,总部的指挥体系可能会受到影响。我们通常讲,指挥室的层级是从总部的大脑到下一级的分布式系统,有时是中心化的,有时是去中心化的,但其实它并不是完全去中心化的。有时是通过投票来决策,这样的情况下,态势就变得更难判断了。最终可能会出现一个群体行动的情况,而这种群体行动可能受到不可观测、不可准确预测和控制的新事件影响。

随着机器人的发展,科技越来越先进,无人机开始部署,卫星材料和图像处理技术也在不断进步。作战机之间的数据链互相传递,这就可能带来很大的问题。这个问题是我们事先没能想到的,确实难以提前预见,因为情况是一步一步发展的。

第二个问题是传统机械行业在人工智能时代的转型和对接问题,即智能化转型。这个问题我们之前讨论过,特别是在涉及人工智能芯片和人工意识芯片的领域。我们在这方面有专门的研究,尤其是人工智能芯片和人工意识芯片。在这个过程中,出现了一个有趣的概念——“软件定义一切”。在通信网络中,软件定义可以将华为的交换机从一万种型号为一种型号。虽然硬件只有一种型号,但通过软件定义,它能够模拟出一万种不同的型号,这使得系统具有更强的适应性。

同样的,我们在讨论机器人时,它作为一个功能执行载体,依然需要与物理世界直接接触,特别是机械部分和机电部分。我们开始思考:是否可以通过软件定义机械部分,甚至硬件是否也能定义软件?答案是肯定的。软件定义硬件,硬件定义软件,两者相结合可以实现更加高效的解决方案。现在在硬件定义软件方面的研究较多,但我们一年前就开始研究如何实现软件定义硬件、硬件定义软件,从而解决机器人在实际操作中遇到的问题。

我们今年初第二届世界人工意识大会启动会上和中国科学院微电子研究所的教授探讨相关的芯片和人工智能芯片问题,我们当时也讨论了机械方面是否可以应用这一理念。我们可以将其视为“新武器”,即在新生产力框架下的人工智能武器,这也是一个需要解决的重要问题。

在与学生的交流中,我曾举例说明如何通过硬件与软件的相互定义来解决实际问题,比如说如何防止小孩接触不适宜的内容。通过这种方式,安全问题可以被很好地解决。这种思维方式也是发明创新的基础,必须有发明创新才能实现突破。

其他老师

我们现在机械臂的所有的使用都是由软件去控制的。现在是这个机械臂,我要想硬件定义软件,怎么去定义软件?

段玉聪教授

硬件定义软件,同时也可以将软件的功能固化到硬件中。硬件与软件的一个重要区别在于其灵活性。然而,硬件的功能仍然可以通过组织重编程或重规划来实现。也就是说,硬件可以具备自我调整和优化的能力,使其表现得更加出色。

其他老师

我们的身体动作就像是执行机构,是终端部分。你怎么能够让它反过来控制自身呢?其实是可以通过闭环控制来实现的。老师,我想知道王老师对此怎么看?

段玉聪教授

我们这篇文章是要发到nature上的。

其他老师

我的理解是这样的:比方说,我们平常放下一个碗,现在要去抓它。如果将来换成机械臂,我们可以提前预设好程序,让它去抓这个碗。我的理解是这样的,不确定对不对。我同意王老师的观点,我一直是这么认为的。机械臂就是一个终端机构,所有的设计在软件固化之后才能完成任务。作为机械工程师,我总是这样去实现我的设计。而现在,我在努力理解段玉聪教授刚才提到的观点,虽然我还没有完全领悟。我在想,如果突然出现意外情况,比如这个碗突然掉下来了,机械臂原本是要执行抓取的任务,它能否立即识别到碗在掉落,并迅速做出反应去抓住它呢?

段玉聪教授

您看过那个新闻,还有那个关于机器人演示的内容吧?现在的机器人技术展示了一些进展。之前他们展示过一个接入大模型的机器人,首先,它能够识别苹果和垃圾,并且在没有预设的情况下主动扔掉垃圾。虽然“扔垃圾”这个动作没有明确定义,但机器人理解了环保的概念,知道要把垃圾扔掉。

接着,前几天又有一个消息,OpenAI 也发声了。他们提到,要进军自动驾驶领域,并且声称他们的技术会超越特斯拉。特斯拉的路径是通过采集数据、规划地图,并不断优化识别模块,这是传统的高算力和大数据驱动的方式,成本极高,但它已经成功走在了前面。然而,OpenAI 声称他们的技术会超越特斯拉。为什么呢?因为特斯拉依赖的是有形的硬件和数据,而 OpenAI 的优势在于它的无形部分。换句话说,OpenAI 是在概念空间里操作,基于已有的知识库、书本和材料。

就像一个人把全世界的书都读完了,他的知识面非常广,武功自然“很强”。但即便如此,他是不是最厉害的呢?那还要看能不能像太极拳那样灵活自如。真正厉害的是能够从中领悟到千变万化的道理,而不仅仅是掌握具体的案例。就好比我看了很多案例,积累了大量经验,但这种能力相对于能够处理无限变化的人来说,还是有限的。这正是 OpenAI 可能超越传统路径的原因。(关于DIKWP坍塌可以参见《人工意识日记》系列)

其他老师

特斯拉的自动驾驶到现在仍然是非常有限的。如果它真能完全实现,我想我们司机可能都不愿再自己驾驶了。我至少觉得,下班后那么累,我希望什么都不用想,直接坐车回家。理想的情况就是这样,它自动把我送回家。这其实是很多人期待的场景。

段玉聪教授

这个问题比较复杂,有几个方面值得讨论。自动驾驶从纯技术角度来说,水平确实已经很高了,并且还会进一步提升。它的替代性也很强,尤其是软件的替代性。然而,自动驾驶不仅涉及技术问题,还涉及许多非技术和非制度因素,比如立法、经济和社会影响等问题。在一些地方,自动驾驶其实已经没有技术障碍了,即使有电动车的出现也不构成太大问题。但真正的挑战不止于此,还有其他复杂的因素需要解决。

其他老师

重庆和成都可能无法解决这个问题。

段玉聪教授

关于转圈圈的技术问题,确实有部分技术尚待突破,这不仅是技术层面的问题,还有法律等其他方面的限制。然而,自动驾驶技术在安全性上已经远远超过人类驾驶员,安全性提高了数倍以上。但在法律层面上,仍然存在一些复杂的道德和法律难题。举个简单的例子:

在某些情况下,自动驾驶会遇到类似于经典的“电车难题”。比如,前方轨道上有一个人,而侧面轨道上有五个人。如果继续直行,可能会撞死那一个人;如果转向,则可能撞死五个人。在这种情况下,究竟该如何决策?这是在法律上几乎无法解决的问题。

而且,这种情况在不同国家和文化背景下的处理方式也各不相同。再换句话说,假如前方有五个老人,而侧面是五个儿童,应该如何选择?如果刹车失灵,无法停下,那么这就成了惯性的问题。再举个功利主义相关的例子,前方是一堵墙,而右侧是一条河。如果撞墙的话,车主可能有保险,但掉入河里可能就没有保障了。诸如此类的情境,牵涉到的道德、法律、哲学问题仍然很多,这也是自动驾驶技术需要面对的一个重要模块。

 



https://blog.sciencenet.cn/blog-3429562-1457281.html

上一篇:Running Purpose Test forDIKWP Artificial Consciousness(初学者版)
下一篇:Propuse DIKWP for Advanced Robotics and AI (初学者版)
收藏 IP: 140.240.40.*| 热度|

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

IP: 166.111.107.*   | 闂傚倷娴囧畷鍨叏瀹ュ拋鍚嬮柛鈩冾殢娴硷拷 闂傚倷娴囧畷鍨叏瀹ュ拋鍚嬮柛鈩冾殢娴硷拷 +1 [3]闂傚倸鍊风粈渚€骞夐敍鍕殰婵°倐鍋撻柣婊冾煼瀹曠ǹ螖娴i晲鎴烽梻浣芥硶閸o箓骞忛敓锟�   2009-1-17 16:27
濠电姷鏁告慨浼村垂婵傜ǹ鏄ラ柡宥庡幗閸ゅ苯螖閿濆懎鏆欓柣顓燁殘閹叉悂寮崼婵堢暫闂傚嫬娲棟闁哄被鍎查悡鐔搞亜椤撶喎鐏ュ褜鍠楅妵鍕即椤忓棛袦闂佽鍠掗弲鐘茬暦閿濆棗绶炲┑鐐村劤娴滈箖姊洪鈧粔鍫曞矗閹剧粯鐓曢柕澶樺枤閸樻稒绻涢崼鐔割棃闁哄瞼鍠栭幊鐐哄Ψ閿旂虎妲瑰┑鐘殿暯閸撴繈骞愰崘鑼殾闁圭儤鍨熼崼顏堝箹濞n剙鐏紒瀣灴濮婄粯鎷呴悜妯烘畬闂佽绻愰悧鎾崇暦閹达箑绠荤紓浣贯缚閸樻悂姊洪柅鐐茶嫰婢т即鏌熼悷鏉款伃濠碘剝鐡曢ˇ鎶芥煙閸欏鍊愭慨濠傛惈鏁堥柛銉戝喚鐎抽梺璇插閸戝綊宕i崘顭戝殨缂備焦岣跨弧鈧梺鍛婃处閸橀箖鎮$€n喗鈷戦梺顐ゅ仜閼活垱鏅堕弶鎴旀斀闁斥晛鍟亸锕傛煛娴h宕岄柡浣规崌閺佹捇鏁撻敓锟�
IP: 12.51.192.*   | 闂傚倷娴囧畷鍨叏瀹ュ拋鍚嬮柛鈩冾殢娴硷拷 闂傚倷娴囧畷鍨叏瀹ュ拋鍚嬮柛鈩冾殢娴硷拷 +1 [2]闂傚倸鍊风粈渚€骞栭鈷氭椽濡搁埞搴撳亾娴e湱绡€闁告劦浜跺ù鍕⒑鐠恒劌娅愰柟鍑ゆ嫹   2009-1-16 22:49
闂傚倸鍊烽悞锕€顪冮崸妤佸亗闁割偁鍎辩粣妤呮煛閸ャ儱鐏╃紒鈧径鎰厽闁哄啫鍊哥敮鍫曟煕鐏炶濮傞柡宀嬬秮瀵剟骞愭惔鈩冩畼闂傚倸鍊哥€氼剛绮旇ぐ鎺戣摕闁跨喓濮寸粈瀣⒒閸喓銆掑ù鐘差嚟缁辨挻鎷呴搹鐟扮闂佺粯顨嗛〃鍫㈠垝濞嗘劗绡€闁搞儜鍥ф暪婵犵數濮撮敃銈夋偋韫囨挾鏆︽繝濠傜墛閳锋垶鎱ㄩ悷鐗堟悙闁诲浚鍣i弻娑㈡偐閾忣偄纰嶉梺宕囩帛閹瑰洭鐛€n喗鏅濋柍褜鍓濈换姘舵⒒娴h姤纭堕柛锝忕畵楠炲繘鏁撻敓锟�
IP: 166.111.107.*   | 闂傚倷娴囧畷鍨叏瀹ュ拋鍚嬮柛鈩冾殢娴硷拷 闂傚倷娴囧畷鍨叏瀹ュ拋鍚嬮柛鈩冾殢娴硷拷 +1 [1]闂傚倸鍊风粈渚€骞夐敍鍕殰婵°倐鍋撻柣婊冾煼瀹曠ǹ螖娴i晲鎴烽梻浣芥硶閸o箓骞忛敓锟�   2009-1-16 21:16
闂傚倷娴囧畷鐢稿窗閹扮増鍋¢柕澶嗘櫅绾惧綊鏌熼梻瀵稿妽闁稿骸鐭傞弻娑樼暆閳ь剟宕戝☉姗嗘富濞寸姴顑嗛崐鍫曟煟閹邦垱纭惧ù婊冩贡缁辨帗寰勭仦钘変粯闂傚洤顦甸弻娑滅疀濮橆兛姹楅梺鍝ュ枙鐏忔瑧妲愰幒鎾寸秶闁靛ě鍛殼婵$偑鍊栧ú蹇涘磿闂堟稓鏆﹂柣鎾崇岸閺€浠嬫煕閳╁啰鎲块柛瀣尰缁轰粙宕ㄦ繝搴㈩棅婵$偑鍊栫敮鎺椝囬娑氼洸闁告挆鍛紲闁哄鐗勯崝搴g不閹炬番浜滈柡鍥崝锔锯偓瑙勬礀閵堟悂骞冮姀銈嗘優闁革富鍘藉▓娲⒒閸屾瑧顦﹂柟璇х磿閺侇喖螖閸涱喖鍓抽悷婊呭鐢帡鎮為崹顐犱簻闁瑰搫妫楁禍楣冩⒑缁嬪尅鍔熼柡鍜佸亞閸掓帞鈧綆鍠栫粻娑㈡煟濡も偓閻楀﹤鈻嶉弽顓熲拺閻犳亽鍔屽▍鎰版煙閸戙倖瀚�

1/1 | 闂傚倸鍊峰ù鍥敋閺嶎厼绀堟慨姗嗗劦閿濆绠虫俊銈咃攻閺咃綁姊虹捄銊ユ珢闁瑰嚖鎷�:3 | 濠电姷顣藉Σ鍛村磻閹捐泛绶ゅΔ锝呭暞閸嬪鏌eΟ娆惧殭鏉╂繈姊虹捄銊ユ珢闁瑰嚖鎷� | 濠电姷鏁搁崑鐐哄垂閸洖绠伴柟闂寸劍閺呮繈鏌ㄥ┑鍡樺窛闁告宀搁幃妤€鈽夊▍杈ㄧ矋缁傚秴饪伴崼鐔哄弳闂佺粯娲栭崐鍦偓姘炬嫹 | 濠电姷鏁搁崑鐐哄垂閸洖绠伴柟闂寸贰閺佸嫰鏌涢弴銊ュ箻闁告宀搁幃妤€鈽夊▍杈ㄧ矋缁傚秴饪伴崼鐔哄弳闂佺粯娲栭崐鍦偓姘炬嫹 | 闂傚倸鍊风粈渚€骞栭锔藉亱婵犲﹤鐗嗙壕璇测攽閻樺弶鎼愭潻婵嬫⒑鐠恒劌娅愰柟鍑ゆ嫹 | 闂傚倷娴囧畷鍨叏閹绢喖绠规い鎰堕檮閸嬵亪鏌涢妷顔句汗鐟滅増甯楅弲鎼佹煥閻曞倹瀚�

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2025-2-1 04:14

Powered by ScienceNet.cn

Copyright © 2007-2025 中国科学报社

返回顶部