博文
两分钟谈谈：Moravec悖论
||
简介一下 first：
Moravec悖论是由机器人专家汉斯·莫拉维克（Hans Moravec）在20世纪80年代提出的一个观察，指出了人工智能领域中的一个有趣现象：高水平的推理需要相对较少的计算资源，而低水平的感知和运动技能则需要大量的计算资源。这意味着计算机和机器人在处理复杂逻辑和数学问题时相对容易，而在执行诸如行走、抓取和视觉识别等基本感知和运动任务时却非常困难。 Moravec悖论的主要观点 高水平推理 vs. 低水平感知和运动技能： 高水平的认知任务（如象棋、数学证明、逻辑推理）可以被算法高效地解决，因为这些任务往往有明确的规则和结构。 低水平的感知和运动技能（如步行、抓取物体、视觉识别）涉及大量的不确定性和复杂的环境变量，这些任务需要处理大量的感官输入并实时做出反应，非常困难。 人类和机器的不同发展路径： 人类在进化过程中，低水平的感知和运动技能（如走路、避开障碍物）已经通过数百万年的进化得到优化，并且我们对这些技能的认知是无意识的。相比之下，高水平的认知任务是相对新的发展，且大多是有意识的。 计算机和机器在这些高水平任务上表现出色，但在处理低水平感知和运动任务时却非常困难，因为它们缺乏人类进化中积累的那些隐性知识和适应能力。 Moravec悖论的实际例子 下棋 vs. 走路：计算机程序可以打败世界上最好的选手，但要让一个机器人在复杂的现实环境中稳定地行走仍然是一个巨大的挑战。 逻辑推理 vs. 抓取物体：逻辑推理问题可以通过算法高效解决，而让机器人精确地抓取和操纵不同形状和材质的物体仍然需要复杂的感知和控制算法。有几点感想：
1. 既然低水平的感知和运动技能是亿万年进化的结果，成为动物和人的遗传本能，后天只是激发出来了这种能力。
那么 LeCun 以动物和人总是在语言能力之前，先“学”会了这些能力作为理由，批判LLM对于多模态的干扰和“投机取巧”，就不是很有说服力。因为模型并没有进化出来的遗传基因作为基础。模型唯一可以利用的是LLM里面的认知知识（包括感知常识的语言描述）。
2. 虚拟机器人（LLM）可以轻易做很多高级白领工作，但人形机器人却对蓝领低级工作的模仿非常笨拙，这是大家都看到的事实。
但其实我们也观察到，虽然笨拙，但任何低级的力气活（例如举重）、技巧活（例如翻筋斗），一旦学会了，机器人就比人类有无比的优越性：它不知疲倦，不怕单调，耐力超强。学会了投篮以后，你不用担心他的成绩不稳定。
3. 视觉识别以前是模型的短板，人和动物的强项。
但是现如今就不同了。例如，人脸识别，模型比人强了。看图说话和视觉理解最近的表现也有明显的碾压人类趋势。这是因为当悖论提出的时候，那还是符号逻辑主导AI的年代，机器学习刚开始有一些进展，但善于从海量数据学习patterns的深度学习还没有发明。感知智能当时是一座难以逾越的大山。
4. 具身机器人的外推能力怎么来呢
我们知道，机器人以前的建模都是非常“内向”的，在厨房环境建立的模型，换到了办公室环境就不行，必须一切重来，重新准备场景数据，重新训练。厨房环境的数据 “外推” 到办公室环境的能力，可不可以做到？
可以的。在大模型的架构下，这早已不是幻想。可行性可以从半年多前的谷歌 RT-2 机器人的项目表现看到端倪。
道理就是大模型虽然没有遗传的基因，也没有目标场景（厨房场景）的数据， 但办公室环境的数据 finetune 出来的大模型能力，是有希望迁移（外推）到其他的环境（例如办公室环境），因为LLM 某种意义上起的作用就是生物进化得到的先验遗传。
【相关】
https://blog.sciencenet.cn/blog-362400-1434883.html
上一篇：就《Suno: 望震》与音乐大家的对话
下一篇：两分钟谈：模型训练的内插、外插
