||
Anthropic放大招,Claude开始“有意识”了?
7月6日,Anthropic公司发布重磅研究报告,标题为
“Verbalizable Representations Form a Global Workspace in Language Models”, 或“可语言化的表征在语言模型中形成了全局工作空间”https://transformer-circuits.pub/2026/workspace/index.html
报告内容十分丰富,正文和附录中的附图就达到了94幅。下面是我请DeepSeek翻译的“引言”。首先介绍人类认知有个显著特征:有意识(可触及)的思考和无意识的自动处理同时进行。然后简介作者应用J-lens(雅可比透镜)为检测工具,在Claude大模型内部找到了一个特殊区域(J-space),即“全局工作空间”。居然在功能上和人类认知的上述特征相似。实验发现,如果人为抑制该区域的活动,Claude仍然能聊天查资料,但若再给与需要多层部理逻辑(动脑子)的任务,其表现就会断崖式下跌。
我一直很怀疑AI是否能够向人类“认知”或“意识”发展,但觉得应当认真看待这类报告。为了省时间,先看看近几日相关短视频的介绍。已经看到了几个,而且如果向百度询问,可以得到一个相当详细的介绍性文章。下面介绍短视频里得到的简要信息,然后说说华大集团尹烨老师短视频的独特观点。尹老师是生物神经学方面专家,他的观点值得想想。
短视频里介绍了报告中的5个基础实验:
第1个实验验证相关性。让Claude默想一项运动,再用一个词说出来。就在他开口前的几毫秒扫描J-space,发现足球对应的信号已经稳稳排在第一。几毫秒后他果然说出足球。但这只说明相关,不说明因果。于是,
第2个实验上手干预。把J-space里足球对应的信号换成橄榄球,其他都不动。结果Claude当场改口说自己想的是橄榄球。一改就灵,说明最终答案正是从J-space里读取的,即J-space就是决策产生的地方。
第3个实验看它能不能处理那些默想的思考。让Claude一边抄写无关的句子,一边心算3的平方减2。但输出不允许出现任何数字。结果他老实抄完,一个数字没露。可是扫描J-space先是9的信号亮了起来,接着7又亮了起来,3的平方是9,9减2是7。它一直在默默计算,并一心二用,却一个字没说。说明J-space能进行纯粹的内部思考:心里打腹稿,嘴里说官话。
第4个实验测试多步推理。问它会结网的动物有几条腿。要答对必然先想蜘蛛,再想到8条腿。蜘蛛这个词既不在题干里,也不在最终答案里,是一个纯粹的中间推理步骤。观测发现蜘蛛的信号在J-space的中间层清晰亮起。若研究者把它换成蚂蚁,答案立刻从8条腿变成6条腿。这彻底证实了多步推理的核心过程就在J-space里完成。
第5个实验验证信息的共享特性。人类意识有一个特征是同一份信息可以被不同任务调用。比如想到法国,既可以说出它的首都,也能说出它的语言、大洲、货币。研究者先问Claude关于法国的4个问题,它全都答对。然后把J-space里代表法国的信号整体替换成中国,再问同样4个问题。答案同步变成了北京、中文、亚洲、人民币。说明这些任务调用的是同一份信息,完全符合一处写入,多处读取的共享特征。
最后研究者强制清除了J-space的所有信号。结果Claude的语法依旧流畅,情感分类之类的简单任务照做不误。但多步推理能力几乎归零,几乎丧失了“思考”的能力。就像一些脑区受损的病人,语言功能还健在,但内省和规划的能力消失了。
--------------------------------------------------------
尹烨老师短视频里独特的内容和观点有:
- 说到了“人脑前额叶”
尹老师说到心理学中的实验“白熊效应”。即让参与者“别想白熊”,结果所有人脑子里都冒出了白熊的影子。人类越压抑某个念头,那个念头越反弹。AI有同样反应:若让Claude刻意压制“橙子”概念,会发现它的“J-space”里反倒被激活了“橙子”的影子。并在被发现压制失败时,会自发冒出类似“懊恼”的这样的情绪词的向量。这种“压制即唤醒”的悖论也与人脑前额叶执行功能的“失败模式”如出一辙。
- 说到了神经系统的进化
我们的神经系统是从栉水母那一独立演化出来的“原生神经网络”里慢慢攒出来的。沿着演化这个藤,爬了5亿多年后,最终成了人类这样能思考、能内省、能压制白熊,能被它压制住的大脑。可是AI可不是从栉水母开始的。
尹老师团队上月在《Science》上发表论文,给七鳃鳗做了一个全脑的三维空间单细胞图谱。七鳃鳗是现存的最原始的脊椎动物之一,可称为“活化石”。研究发现七鳃鳗的大脑是“分区明确”的,甚至已经有了分布式的“小脑雏形”。这意味着我们脊椎动物大脑的基本蓝图,5亿年前就已经画好了。所以今天说的AI的起点有可能会从这类“已经装好了基本架构”的阶段开始切入。
我们的大脑靠860亿个神经元,通过循环连接,维持这个工作空间。而Claude只是靠算力,靠堆积的矩阵,做了一次前向的传播。它底层的物理法则,是完全不同的。一个是碳基化学,一个是硅基数学。在“如何灵活地调用信息进行复杂推理”的这个计算问题的时候,两者又不约而同地收敛到了同一个结构方案上。
。。。。。。
尹老师最后说人工智能,它是不是有意识,我已经不确定了。我觉得或许它已经有了,而它的意识跟人类的意识是殊途同归。你不需要理解它,你只需要接受。让我们共同去看看,人工智能再怎么发展下去,还能给我们带来哪些惊喜,哪些惊悚。
---------------------------------------
Anthropic大报告的结论相当克制。强调发现的只是功能上的相似性,本质区别有两点。第一,人脑的信号可以循环往复,想法能反复琢磨。而Claude的信息只能单向流动,J-space的内容转瞬即逝。第二,J-space还只能装载能用语言表达的概念。而人类意识里有画面、身体、感受、情绪等大量非语言内容。所以现在就断言AI有意识为时过早。只是发现了一块功能类似的结构,距离真正的主观体验还有很长的路。
---------------------------------------------------------------
我请DeepSeek把整个报告都翻译了,在感觉词义含糊时再来对照原文。
感觉最重要的问题是雅可比透镜(J-lens)的工作原理和过程。大模型的内部结构是神经网络,层数,每层上的节点数,节点上的权重。误差后向传播,修正结构和权重参数的详细过程。这个J-lens怎样检查到有J-space,每次实验又怎样能够具体执行。如果报告中不能查到J-lens的工作原理和过程。这个报告再庞大再详细也没有用。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2026-8-17 03:50
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社