||
那本入门文档的第一页,周穆读了三遍。
上面没有讲货币,没有讲投资,甚至没有讲“链”。它讲的是一件看起来完全无关的事——
一七七〇年,维也纳,匈牙利工程师沃尔夫冈·冯·肯佩伦向奥地利女皇展示了他最新的发明:一个坐在大木箱前的“机械土耳其人”。它穿着奥斯曼长袍,戴着头巾,手里握着一枚棋子。女皇的廷臣向它挑战国际象棋,它一盘接一盘地赢。它还会点头,会摇头,会不耐烦地用棋子敲桌面。
整个欧洲为之轰动。有人猜测木箱里装着最精密的齿轮;有人猜测它利用了磁铁;有哲学家干脆宣称,这就是“思考的机器”,人类心灵的独特性从此破灭。
二十年后,谜底揭开:木箱里没有齿轮,只有一个人——一位棋艺高超的棋手蜷在狭小的夹层里,透过缝隙看着棋盘,操纵机械手臂。
肯佩伦的机械土耳其人,是人类历史上最著名的骗局之一。但周穆在六十一岁这年重读这个故事,注意到的却是另一件事:
整整二十年,全欧洲最聪明的人都没能看穿它。
不是因为它太复杂。而是因为——它看起来活得太像了。会移动,会回应,会生气,会赢棋。每一个能观察到的迹象都指向“它是活的”,除了唯一重要的那件事:它的里面没有人。没有自己。
周穆在笔记本上写下了一行字:
迹象可以伪造,活着不能。
他接着往下读。入门文档的作者显然是个喜欢历史的人,第二个例子讲到了一九六六年。
那年,麻省理工学院的一位计算机科学家写了一个叫“伊莉莎”的程序。它的功能简单得可笑:扮演一位心理治疗师,对来访者的话做出回应。你说“我妈妈让我很烦”,它就说“能再多谈谈你妈妈吗”;你说“我不知道该怎么办”,它就说“你为什么觉得不知道该怎么办呢”。本质上,它只会做一件事:把你话里的关键词抓出来,换一种说法抛回去。
但就是这样一个简陋的程序,让无数人产生了被理解的错觉。有位工程师让助手把终端搬进了自己的办公室,每天下班后和它聊很久。他明知道对面是一台机器。助手回忆说,有一次她走进办公室,发现工程师正在和程序“谈话”,见她进来,急忙转过头去用手抹脸——他在哭。
人们对伊莉莎如此动情,以至于程序的创造者感到不安,公开呼吁大家不要认真对待它,然后亲手停止了项目。
读到这一段,周穆停下来,盯着屏幕看了很久。
一九六六年,伊莉莎用一个把戏让人产生了被理解的错觉。六十年后,这一切重演,只是规模放大了一万倍:更精美的画面,更流畅的对话,更聪明的回应。人们对着虚拟角色流泪,对着虚拟世界安家。一切迹象都指向“它活着”、“它理解我”、“它是真实的”。
但那个唯一重要的问题,和二百五十六年前的维也纳一样:
它的里面,有它自己吗?
那天晚上,周穆没有继续读文档。他去了书房,从书架最高一层抽下一本旧笔记。
那是他三十四岁、第一次独立负责一个虚拟世界项目时写的。项目叫“芽庄”——一个以自然生态为卖点的世界。为了让世界“显得活”,团队设计了精巧的系统:随风摇摆的草,会迁徙的动物,随季节变色的森林,会对玩家行为做出反应的村庄。玩家对世界的评价很高:“感觉这个世界是活的。”
有一次,为了赶进度,团队把一部分“生态模拟”简化成了预设的脚本——风还是吹,草还是摇,动物还是迁徙,但驱动它们的不再是底层的模拟,而是定时播放的动画。
没有任何玩家发现。
两种世界,一种靠模拟驱动,一种靠动画播放,在外表上没有任何区别。玩家们感受到的“活”,在两个世界里完全相同。
那个项目上线两年后,周穆离开了团队。不是因为项目不好——恰恰相反,它很成功。他离开是因为那个发现一直陪着他:如果死的东西可以装得和活的东西一模一样,那么我们对外表的信任就毫无价值。玩家以为自己在和一个活的生态系统互动,其实他们只是在看一部循环播放的电影,还主演了其中一部分。
他把这件事写进了笔记,此后三十年,每次有新项目请他做顾问,他都会问一个问题:“你们做的这个东西,是把‘活’装出来的,还是长出来的?”
几乎所有人的回答都是前者。而且几乎所有人都觉得这不是一个问题。
现在,六十一岁的周穆终于可以把三十年前的困惑说清楚了。这得益于他过去几周读到的那些东西——不是某个单一技术,而是一种新的提问方式。
旧的区分方式问:它看起来像不像活的?动作像不像,反应像不像,会不会说话,会不会学习我们的喜好。
新的区分方式问的是完全不同的几件事:
第一,它的内部有没有一个持续的自己?一只闹钟每天早上响,不算活;一个人每天早上下同一个决定,算。区别不在规律,在于这个规律是外部拧上去的,还是内部长出来的。
第二,它的行为会不会反过来改变自己?会下棋的机器不因为赢了棋而变成更好的棋手——它的程序里没有“它自己”被更新这件事。而任何一个活的东西,每经历一件事,它自己就不同了。
第三,也是最根本的:你把它放在那里不管,它还动不动?
一条狗放在房间里,房间不会安静。一株植物放在窗台上,窗台上会慢慢发生改变。一个活的系统——哪怕是最简单的——都会持续地从内部制造变化,持续地与周围交换着什么。变化不是对它的打扰,变化是它的工作方式。
而肯佩伦的土耳其人,箱盖关上的那一刻,它就死了——虽然它的每一根机械臂都还完好无损。伊莉莎的服务器还开着的时候,它也在“死亡”——因为它内部没有任何东西在更新,它每一轮的“聪明”都是同样的把戏,日复一日,从不长进。
“剧院与机器,”周穆在笔记本上写,“剧院的问题不在于假,而在于——幕布后面没有人。”
第二天,他约了一个人见面。
那是他托了几层关系才找到的年轻人——三十一岁,学理论物理出身,后来转去做计算神经科学,现在又挂在一个研究复杂系统的实验室名下。据说这个人的脑子里装着一些很奇怪的想法,关于“预测”、“意外”和“活的东西”。
他们约在一家老茶馆。年轻人来的时候背着一个旧书包,里面塞满了打印的论文。
“周老师,”年轻人伸出手,“我叫顾青。我听说了您的问题——怎么区分一个装活的世界和一个真活的世界。”
周穆握住他的手:“你有答案?”
顾青想了想,说了一句让周穆愣住的话。
“有。但答案不在‘看起来怎么样’里,也不在任何一项技术里。答案在一个很老的概念里——它是物理学里最深的那个概念之一,可惜大部分人从来没拿它问过‘什么是活的’这个问题。”
“什么概念?”
年轻人放下书包,在茶馆的便签纸上写了两个字,推过来。
纸上写着:意外。
“活着的东西,”顾青说,“和装活的东西,对待意外的方式完全不同。一个剧院,巴不得每场演出都不要出意外;一个活的东西,靠意外活着。这是第一课,也是唯一要紧的一课。我慢慢讲给您听。”
茶馆外面下起了小雨。周穆给两人续了茶,把椅子往桌前挪了挪。六十一岁的工程师知道,自己三十四年的问题,今天起要换一种问法了。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-10-23 12:25
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社