《镜子大全》《朝华午拾》分享 http://blog.sciencenet.cn/u/liwei999 曾任红小兵,插队修地球,1991年去国离乡,不知行止。

博文

【李白梁123: 人机融合新物种及其自我意识辩】

已有 823 次阅读 2021-7-5 03:20 |个人分类:立委随笔|系统分类:观点评述

李:上帝到底掷不掷骰子,其实从语言学里面也可以看到端倪。自然语言有规律吗?当然有 于是生成了很多文法。但这规律却不是铁律。大规则里面有例外,例外里面有小规则,小规则也还可能有例外。错综复杂 这就是语言世界。

关于亚原子微观世界的测不准(现在叫不确定性)原理 量子坍缩(?)这类玄妙的现象 我的理解是其实在日常的宏观世界也有类似表现。这就是随处可见的离散和连续的矛盾统一。

上文提到的时间维度的连续体也是如此。所谓现在、过去或未来,一旦测量定位到特定的细颗粒度,就坍缩成一个点面。是无数的点面碎片在我们的记忆中拼凑出了完整的世界映像。而世界其实是测不准的,无论我们如何切割时间的剖面。

所有的音频视频的数字化都是以离散去逼近连续。我们测量的任何一个数字都是离散(或者说坍缩)的结果,而不是事物的本真。我说拿破仑身高 1.65米,他真实的身高其实是不可以用有限数字表示的。展示出来的结果都是测量的近似值,无论多精密的测量器具。

这样说来拿破仑身高究竟是确定的还是random的?文学老年,胡扯几句,不可认真。

看物理科普入迷 与其说是求知 不如说是好奇。因为知道知识是需要基础的,基础要经年累月培训庶几可得 绝不可能一个外行靠看科普就可以真正理解,所以求知也就是个笑话 求知不得才是真的。但这不妨碍感受物理世界的奇妙 诡秘和震撼。

如果在规律和随机中,硬要选择一样作为起点,感觉世界是随机的 或者离散的。规律性和概念化都是人类出现之后 对于无限世界连续现象 不得不通过感知或认知做了 clustering 的结果。白马本非马 硬说白马是马 是把白马“坍缩”(抽象)成一个不存在的概念马。这是人类(也许还包括部分高等动物)观测世界和融合世界的效应。

离开人类以后 规律还存在不存在可以争论。但离开人类 概念肯定荡然无存 应该是确定的。没有概念及其体系,何来理论?没有理论如何表示规律?无从表示的规律是不是还叫规律呢?

白:假设识别马和白马的系统在人类死绝了以后还活着,遇到马发出一种鸟叫声,遇到白马发出另一种鸟叫声。这两种鸟叫声世界上还会有很多种动物听得到。如果这系统懂得非单调逻辑,在同时识别出马和白马时,应该发出白马对应的鸟叫声,而不是同时发出两种鸟叫声。这一切虽然是人创造的,人却不存在了,但并不妨碍动物们对白马和马做出差异化的反应。

李:如果物种也灭绝了,传递给谁。不妨把物种当作人类的延长线,包括高等动物 甚至低等动物。没有神经系统的植物还算不算 感觉很勉强了。

梁:不知道了,很难想象[Chuckle]

李:机器(人)呢 如果不承认有生物意义上的人与机器嫁接的物种的话。

梁:生命的本质,就是信息存储,信息处理,信息更新,和信息传递。

李:这个机器可以。但信息为表 意义为里。

梁:如果机器能不断更新自己的代码,以适应环境,自我繁殖,那它差不多就是生命。

李:机器传承的一套信息系统,是什么意义呢?信息是个客观的物理现象,可以独立于人类所赋予的意义,但没有意义的信息,有啥?可以被机器捕捉(感知),然后呢?

白:人类死光了,动物可以再进化,进化途中遇到人类遗留的系统,会给它们形成概念提供现成的样本。它们可以不叫白马,不叫马。但对这两个概念的实例做出差异化反应。

李:新轮回论。

白:反正,差异化反应是客观存在,可以用于概念学习也是客观存在

李:人类文明历史 没有看到继承以前某灭绝文明的蛛丝马迹,轮回不曾发生 是对将来可能发生的不利依据。

白:模式识别能力是现成的,某种自然动力驱动也是现成的。没有人可以一直运行下去,就看动物们的造化了。有监督的学习可以加速。

梁:非得让现有物种上吗?[Chuckle]

白:只是为了说明,概念没什么神秘的,根本不需要量子也不需要坍缩,就可以搞定。

李:据说青蛙也有某种粗糙的概念分类,青蛙对眼前客观物体 最有可能的分类是:食物 还是 天敌?决定了是扑上去抓捕还是跃迁逃生。

白:白马实用价值确实比较低。还可以考虑天气预报系统。

李:那是因为客观世界有无数种分类可能,很难说人类建立的概念体系 对于动物具有可用性。没用的分类是不利于进化和生存的。

白:另一方面,神经网络里面的阈值触发机制,也像极了所谓“坍缩”。为啥古人要占卜,无非是要从乌龟壳的裂纹中寻找概念。有个人类遗留系统在这儿,不用才怪。

李:写 上帝的公式 的教授坚信,上帝规律是客观的 在他手中写成的公式,在其他文明中不过是写成另外的符号形式。这是预设了宇宙存在多个文明。

白:彭罗斯,我第一个不服的就是他。把物质本源、生命本源、智能本源三个巨难的问题放在一起反而简单了?骗鬼呢。

人类遗留系统,不担心后进化的动物们不用,只担心它们样本小的时候瞎用,得出跟人类不一样的概念。[Chuckle]

梁:后进化的物种肯定会根据自己的理解“瞎”用的。[Chuckle]

白:尤其猴子这种好奇心很强的动物,瞎用的可能性太大了。

李:我觉得动物先与人类灭绝的可能性更大。毕竟人类太狡猾了 并且越来越狡猾。当然,聪明反被聪明误,人类毁在自己手上也不是小概率。尽管如此,人类文明的传递最好不要指望动物的传承。

梁:人可能把自己的知识传给自己创造的物种:人工智能。

李:这是我最不解也是最怀疑的:生物工程与电脑工程到底能够结合到什么程度?我对《未来简史》作者赫拉利最大的怀疑就在于此。他的立论、视野和框架,尤其是他在《人类简史》中对历史的透视,说服性很强,醍醐灌顶,让人震撼。但是他未来学的最重要的立足点之一就是预设了人机的有机结合。感觉就是人和机器可以杂交成为新的物种。

我-不-信服!

我当下的认识是,两股道都可以跑得很远。人可以通过生物工程创造超人。电脑可以创造出超电脑。硬要说二者可以融合的话,那也是沿着机器的道路去,而不是沿着生物人类的道路去。例如,人类的记忆最终可以存储到碟片流传出去。但出现一个生物意义的人机新物种,天方夜谭。手足当然可以换成机械臂膀,人的大脑如何被电脑置换,而且可以繁衍延续,匪夷所思。

白:机器跟物种没啥关系,跟向物种提供的“标注语料”有关系。

意义是系统对符号的固定反射模式。有系统就有意义,甭管系统的载体是啥。比如无人车看见红灯停下来,对于无人车而言,停下来就是红灯的意义。人死光了,无人车要想互相不发生事故,还可以继续使用红绿灯。

李:无人车为什么想不发生事故呢?怕死还是怕疼?

白:人也经不起终极意义的追问吧?都会在某一层打住。怕散架不行吗?

李:如果说生物的驱动力是繁衍,非生物的驱动力在哪里?

白:繁衍本质上是逆天而为。这个驱动力,拉长时间跨度很可笑。

李:对。所有做功都是以局部之力违反普适熵增定律,注定短命。

白:所以短期的驱动力,大家彼此彼此。谁也好不到哪去,五十步笑百步。

基因的延伸,实际上就是信息复制链的延伸。这个,机器也在行。

李:根子还是在那个叫自我意识的东西。复制不是根本。机不畏死 奈何以死惧之。赫拉利说,自我意识最简单的表现就是那种 suffering 的感觉。据说是进化必然的结果,文明的间接成因。

白:植物、微生物可以没有suffer。

李:所以不反对把植物、微生物与无生物划归到一类去,都是非文明。其他动物则介于文明与非文明之间。

白:suffer是软件硬件数据一体化的特殊架构造成的,这种架构对于生命不是必须的,对于智能也不是必须的。没有过硬证据非它不可。信息复制、架构不死才是必然的。

李:那倒是。因为完全可以人为麻痹神经,把suffering抑制住。这间接证明了suffering不是必要的因素,大概只是一个方便生存和演化的产物。

白:从架构角度看,只不过是系统自己暴露给自己一些probe。想关掉就关掉好了。如果软件和数据远在云端,硬件就完全没必要suffer,坏了换就是了。

李:suffering 被看重,并不是因为它是文明必要的因素,而是因为它是检验文明与否的一个方便的指标。没有 suffering的比照,就没有幸福的感觉,文明也就失去了方向。真正的图灵测试应该以 suffering 作为测试标准。什么时候有令人信服的证据证明机器的确 suffer,那时候就可以声称人机真正融合成为新的物种。

白:为了通过图灵测试假装suffer,多没劲。

李:好像图灵测试不是假装似的。50步100步吧,假装 suffer 与假装能对话,都是假装。

白:本来可以有一种更高贵的架构,更高贵的文明,却要向低级文明凑近乎。为什么不可以声称,你suffer,是因为你低贱。你的物种决定了你们自我折磨,而我们,不需要这种自我折磨。

很多仪式性的东西本来就是假装,人类自充伟大也未必不是假装。

李:认知层面的假装更加迷惑人,极易引起伊利萨效应的误导,造成对人智的恐慌。倒是感知层面的假装,容易为人识破,直指人智的机器本质。

著名科幻《三体》里面说的森林法则,就是说文明之间只会相互残杀。但纽约那位日籍明星教授说,其实,天外文明更大可能不屑于杀死人类文明,或者说不在乎杀死还是不杀死你,因为你太低级了。这就好比人类文明会不会无缘无故去杀死长颈鹿“文明”。也许到了森林里面,看到长颈鹿,你会好奇,去跟他说说话,玩一玩。但很快你就会索然无味。

白:无视。

李:对,最可能就是选择无视他。根据现在的宇宙尺度和天文知识,如果天外文明存在,并且造访地球,他们一定比我们高n个层次,其跨度几乎肯定比人与长颈鹿的距离要大得多,看我们连蚂蚁都不是。哪里有兴趣专门来消灭我们。要消灭也不过是其他计划的偶然殉葬品而已,不是靠人类避免暴露所可以防止的。

的确,人总是免不了高看自己。

 

 

 

 

 

 

【相关】

 

姐妹篇:【李白122: 现在是个什么东西】

 

【语义计算:李白对话录系列】

【置顶:立委NLP博文一览】

《朝华午拾》总目录

 




http://blog.sciencenet.cn/blog-362400-1294069.html

上一篇:【李白122: 现在是个什么东西】
下一篇:【李白毛梁王124: 从虚拟现实扯到学科鄙视链】

0

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-10-17 23:18

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部