月度归档： 2024 年 5 月

简介一下 first：

Moravec悖论是由机器人专家汉斯·莫拉维克（Hans Moravec）在20世纪80年代提出的一个观察，指出了人工智能领域中的一个有趣现象：高水平的推理需要相对较少的计算资源，而低水平的感知和运动技能则需要大量的计算资源。这意味着计算机和机器人在处理复杂逻辑和数学问题时相对容易，而在执行诸如行走、抓取和视觉识别等基本感知和运动任务时却非常困难。

Moravec悖论的主要观点

高水平推理 vs. 低水平感知和运动技能：

高水平的认知任务（如象棋、数学证明、逻辑推理）可以被算法高效地解决，因为这些任务往往有明确的规则和结构。

低水平的感知和运动技能（如步行、抓取物体、视觉识别）涉及大量的不确定性和复杂的环境变量，这些任务需要处理大量的感官输入并实时做出反应，非常困难。
人类和机器的不同发展路径：

人类在进化过程中，低水平的感知和运动技能（如走路、避开障碍物）已经通过数百万年的进化得到优化，并且我们对这些技能的认知是无意识的。相比之下，高水平的认知任务是相对新的发展，且大多是有意识的。

计算机和机器在这些高水平任务上表现出色，但在处理低水平感知和运动任务时却非常困难，因为它们缺乏人类进化中积累的那些隐性知识和适应能力。

Moravec悖论的实际例子

象棋 vs. 走路：计算机程序（如IBM的深蓝）可以打败世界上最好的象棋选手，但要让一个机器人在复杂的现实环境中稳定地行走仍然是一个巨大的挑战。

逻辑推理 vs. 抓取物体：逻辑推理问题可以通过算法高效解决，而让机器人精确地抓取和操纵不同形状和材质的物体仍然需要复杂的感知和控制算法。

有几点感想：

1. 既然低水平的感知和运动技能是亿万年进化的结果，成为动物和人的遗传本能，后天只是激发出来了这种能力。

那么 LeCun 以动物和人总是在语言能力之前，先“学”会了这些能力作为理由，批判LLM对于多模态的干扰和“投机取巧”，就不是很有说服力。因为模型并没有进化出来的遗传基因作为基础。模型唯一可以利用的是LLM里面的认知知识（包括感知常识的语言描述）。

2. 虚拟机器人（LLM）可以轻易做很多高级白领工作，但人形机器人却对蓝领低级工作的模仿非常笨拙，这是大家都看到的事实。

但其实我们也观察到，虽然笨拙，但任何低级的力气活（例如举重）、技巧活（例如翻筋斗），一旦学会了，机器人就比人类有无比的优越性：它不知疲倦，不怕单调，耐力超强。学会了投篮以后，你不用担心他的成绩不稳定。

3. 视觉识别以前是模型的短板，人和动物的强项。

但是现如今就不同了。例如，人脸识别，模型比人强了。看图说话和视觉理解最近的表现也有明显的碾压人类趋势。

4. 具身机器人的外推能力怎么来呢

我们知道，机器人以前的建模都是非常“内向”的，在厨房环境建立的模型，换到了办公室环境就不行，必须一切重来，重新准备场景数据，重新训练。厨房环境的数据 “外推” 到办公室环境的能力，可不可以做到？

可以的。在大模型的架构下，这早已不是幻想。可行性可以从半年多前的谷歌 RT-2 机器人的项目表现看到端倪。

道理就是大模型虽然没有遗传的基因，也没有目标场景（厨房场景）的数据， 但办公室环境的数据 finetune 出来的大模型能力，是有希望迁移（外推）到其他的环境（例如办公室环境），因为LLM 某种意义上起的作用就是生物进化得到的先验遗传。

模型训练的讨论中，常常提到 interpolation（内插）与 extrapolation（内插）两个术语，可以说说。

大家都知道，在数据驱动的主流学习过程中，内插需要的是在训练数据的边界内“泛化”能力，善于信息压缩的深度学习训练是内插的利器。但外插（extrapolation）就没见有长于此道的算法或模型。实际上，外插与数据驱动是直接矛盾的，by nature 就是无解的，因此很可能这就是个伪问题，根本就不该对外插抱有幻想。当然，从鲁棒性角度，外插现象出现的时候，至少要做到模型不死机，至于外插的精度，主要是看运气，而非模型的内功可以发力。

不过，外插的问题还是值得梳理一下。

外推（Extrapolation）
定义：外推是指在已知数据点之外进行预测或推断。例如，已知某个函数在几个点上的值，外推就是在这些已知点之外估计函数的值。

前面说了，数据驱动的路数，本质上对外插无解。不能强人所难，巧妇难为无米之炊。米就是数据。

但加强外推，理论上还有 “先验知识” 和 “模型结构复杂化” 两个路子可能有点帮助，而数据本身的短板，除了数据，没有它途：就是说把“无人区”的外插问题，收集相关数据，转化为内插。

模型结构复杂化在历史上是帮助了训练的“外插”能力的，如果原来的简单模型有自身的结构性局限。我们都知道，AI历史上，非线性问题在简单的单层神经网络的模型里是无解的，无论给出多少训练数据（这其实是早期神经网络的命门：单层神经无法解决 XOR 的现象）。但到了多层+非线性转换，就有解了。这其实是深度学习神经革命的最基本的立足点。

至于“先验”对于外插的作用，我们从 Alpha-Zero 利用 self- play 再生数据可以看到效果。self-play 的好处是有游戏规则等先验知识，因此它所产生的数据，可以是在先验知识条件下的未见过的外推数据。

在Anthropic 的 Claude 3 和 谷歌 Gemini 赶上 GPT4 以后，就不断有人希望 Open AI 放出它的 GPT5 的大招来，但传说中的 5 迟迟不来，于是有人怀疑，scaling law 是不是失效了，大模型是不是进入了平台期。

这个怀疑有一定的道理，因为GPT路线上的 scaling law 不过是个经验“法则”，虽然说，it never fails us，so far，但谁也不敢保证它永远有效。遇到瓶颈不是不可能的。

微信中也开始流转马库斯最近的评论：“大模型开始进入收益递减的时代”。但他的论证感觉很有问题。

文章开始有个奇怪的递减结论的依据。在一个 100 scale 的性能上，达到 80 以后，绝对递升减缓不是一个宇宙真理吗？怎么就成了马库斯眼中的递减论的批评依据呢？我们对 “更大力出更大奇迹” 的 scaling 期望，主要是要补齐那些目前能力的空白 和 短板，最终实现 “在所有职能任务上，模型都可以达到或超过人类水平” 的 AGI 理想。因此，合理评价大模型更新换代是不是走在agi的路上，应该细致分析空白与短板，而不是用那些已经达到 接近 或超过人类水平的指标上。 也许 gpt5 确实遇到平台期或过不去的瓶颈 （我们其实不知道），但这种论证方式显得多么不靠谱。

道理上，对于已经达到或超过人类技能的指标上，应该关注不要有太大的退步（regressions）。对于一个重要的智能也有上百甚至上千种需要全面测量的模型，只要智能边界在扩大，空白被填补，低性能有增长、高性能没有大退步，就是走在正确的路上。就不能说是处于平台期。

有人看不起多模态的进步，认为那是低级的智能任务，是横向的发展，是“向下看”为应用落地，而不是向上去探顶，去加强高级智能任务的能力。这个看法，缺乏对于智能的全面深刻的理解。

多媒体方向的进步，虽然水到渠成，但其实速度很快，无论Sora的发布，还是前两天Open AI 和谷歌的全双工、实时、流式、能看能听能说、甚至能逗哏捧哏、打情骂俏的超写实助理的发布，其表现和速度实际上超出我们多数人的预期，完全不像是模型进入平台期的景象。

实时交互等于是在大模型原来的短板上大幅度增强，填补了一些空白。把这些能力排除在外，只看、只认认知智力的进展进度，是非常偏见的。

从功能对于应用的影响来看，感知多模态的加强，比起认知智能的进一步提升（例如在所有的专家资格考试中赶上人类专家），更为关键，因为模态是认知智能落地的重要接口。

从大模型本身的健康来看，多模态也是绕不过去的关，认知智能只有借助感知智能（进而结合具身智能从数字世界进入物理世界），才能算是真正落地（grounding），获得数字世界 ——或跳出数字空间获得物理世界—— 的意义。

在这一点上，LeCun 在 AGI 中特别强调感知智能是有其道理的。但LeCun过分纠结于感知和认知训练的次序了：他坚持感知智能先行，要排除语言模型的认知的“投机取巧”和对感知智能的“干扰”，淡化或无视认知智能对于感知智能的知识迁移作用，这是具体路线之争，不是特别有说服力的。

LeCun 说过： GPT 不如我家的一条狗。

这话你也不能说他错，但显然是偏激之词，带有太大的情绪。

其实，不仅LLM不及猫狗，我们人类也不及，没有猫狗的嗅觉灵敏，也没有他们躲避危险的高效。我们人类甚至在算术方面不如计算器，更甭提计算机。

so what？

对不如一条狗的LLM，我们也不能因此否认它比1000个教授和博士都更博学。LLM 可以与物理学家讨论暗物质，与语言学家谈乔姆斯基层次结构，与任何专家谈任何问题。而且所谈的并不是人们想象的那么无知和胡说，虽然里面 here and there 确实有幻觉和臆测。

切身体会是，如果你作为专家保持一种探究问题的心态和对于幻觉警惕的 alert，你会发现与它交谈比与很多中等水平的同行讨论，更有意思，或受启发。ta 看的书实在太多，而且也本性上学到了融会贯通，而不仅仅是死记答案：学到了语言，也相当程度上，学到了知识。

无视LLM这种人类智能，贬之为不如一条狗，除了发泄情绪外，只有一个价值：提醒感知智能的重要性。

不管怎样，AI 因为有了马库斯和LeCun这些“持不同政见者”，而更加丰富多彩。但我们也没必要被他们蛊惑。

甜甜听到我的 piano ballad，问：are u ok, Dad?

我说，if you are blue, what you do is play piano.
我也想 play，但可惜我不会。所以，I made a piano ballad

她说，I see, 但她没想到这是 AI 歌曲。

甜有很高的音乐素养，以前一直看不起AIGC，这次说，这一首的确不像是AI的。

我说，there will be more and more AIGC beyond our imagination

human like or super human like ...

我说我在公园转，循环听了这首不知道多少遍，还没有烦。谁说 AIGC 出不来可循环听放的曲子？

当连听三个 sad, 很难不泪眼模糊：人生本来就有无尽的不可承受之重。

有时候也想，人类从个体角度，绝大多数人都经历过生不如死般的磨难，和没有道理的内卷和碾压。而人类并不抽象，它是由一个个注定饱经磨难的个体组成的。那么，人类灭亡、文明毁灭又有什么了不得的？不过是落下一片白茫茫大地真干净。

绝大多数人类行为，换一个角度看，不仅仅毫无意义，而且是飞蛾扑火。

歌唱的是爱情毁灭的残酷，但传达的绝望情绪，却是所有的悲观主义哲学。

昨天，听李飞飞 Ted 演讲，她确实是个演讲高手。谈她刚下场要做的初创，做所谓“空间智能”，就是视觉 3D，也许加“具身智能”，当前的热门。

她一开篇从宇宙历史开始，说，“有了光，但没有眼睛，没有视网膜。”

听上去像是在说新约上帝造人的故事。

我在想，如果文明终结，不过就是回到“有光但没有眼睛”的世界。物质、色彩、感情、烦恼、痛苦与狂热，压缩、理性、概念与意识，这一切的一切，全部消失于无形。从哪里来，回哪里去。

一万个不情愿，我们每个人都（被）接受了个体的这个宿命，长远来看，为什么不能接受群体的宿命呢。

这个意义上，超级对齐不仅是杞人忧天，而且是要做上帝，或替上帝操心。太把自己当回事儿了。伊利亚、马斯克，无不如此，自以为超人。马斯克准备投巨资要移民火星 说是为文明买一张保险。但巨额保费谁出？打着人类的名义，本质上还是人类买单，哪怕这是从他个人的超级利润拿出来的。这其实没有道理。尤其是在还有疾病、饥饿和无数本来可以避免的痛苦的世界。