奇点真要来了吗, 精英群呼狼来了。
在 Lex 最近对谷歌AI大佬Demis的最新访谈中,这位诺奖获得者说,quote:
AGI的图灵测试: 如何判断AGI已实现?不是通过枯燥的测试集。Hassabis提出了一个爱因斯坦测试:将时间拨回1900年,给AI系统当时所有的物理知识,看它能否独立提出相对论。或者,让它发明一款像围棋一样深邃、优雅的新游戏。这才是真正的创造力,AGI的“Move 37”时刻
这种思维尺度,你说他是先知,却更像是狂人。他说有50%的概率,AGI五年内可实现, 意味着机器可以达到爱因斯坦的创造能力,所有的规律都会被发现,NP问题都可解、可学习、可编程,可以通过数据逆向工程实现。 他没说十年内、五十年内达到这一切的概率多大。想必是笃定了吧。
两位AI诺奖者,AI物理奖辛顿与AI化学奖Demis,一位整天为世界末日焦虑,死马当活马医地全世界到处呼吁;另一位 virtually 宣告上帝(AGI)即将来临。
这不是两位出圈的独特个体(outliers),而是世界上最聪明的人群中信仰者群体的代表人物。我们还可以列举一长串同呼“狼来了”的代表人物:
号召移民火星的马斯克;
声称铲除一切疾病的小扎;
告诉中学生学啥也没用 只能坐等和关注超级智能的伊利亚;
open ai 的Sam 和 anthropic 的 Dario
一个比一个把话说死,不留余地。这样的精英群体正在使用着科技发展史上最大的资源,带领人类向一个未知的目标狂奔。
因为未知,所以才有无限夸张的描述。这类描述原本是宗教教主的专属,任何世俗人出此狂言,隔在任何时代,都会被认定为疯子或邪教,不被世界理睬。如今正在成为技术共同体的主流意识形态或常态。这种变化,细思不仅仅是诡异,更是某种仿佛集体魔障的征兆。
我们也深陷其中,自觉不自觉地成为其吹鼓手或追随者。
虽然目标具有很大的不确定性,也具有浓浓的未知的恐惧,但所有这一切的发生不是没有根据的臆想。具有“自主意识”的智能体,似乎正在“显灵”。
我对形势的观察是:希望最先实现AGI 获得巨大回报(巨额资本投入的动机)或实现“共产主义”理想社会(各种“super abundance”的说法)的说法,现在看来是难以实现的美梦,不是因为AGI不现实,而是越来越多的现象表明:AGI 是一种渐变式形态,其落地和推广更是具有阶段性,而不是所谓奇点式爆发。
Sam 在每次 OpenAI新发布前, 都要绘声绘色描述自己面临AGI到来般的体验,对于即将发布的GPT5,更是觉得真的就是AGI了。也不能说他完全没有依据,我们在使用LLM的过程中,也都在不同时间和情况下,眼前一亮过,有时候觉得模型真地活了过来,善解人意的超级智能就在身边。
So what?
模型对于社会经济的影响,依然是和风细雨,慢了一个节拍的。市场和用户也都还在润物细无声般的普及、启蒙和被教育中。这其实也是Sam自己的困惑,他说过社会对大模型能力的感知和改变与大模型的飞速演进,完全不成比例,对社会为什么没有看到期望的巨变,感到不解和惊诧。这当然是好事,奇点与末日一样,听着就不对劲。
这次回国,至少在我家,大模型成为自然用品,而不是只能仰望和听闻的魔杖了。我哥、我妹、我老爸,都在日常习惯性使用豆包了。询问日常遇到的任何疑问。一年前他们还是对我从事的大模型行业充满好奇,觉得可望不可及,现在却成为最常使用的工具了,失去了敬畏感。此前最常用的工具是百度,但我们在不是标准普通话的地区,打字打不出正确的拼音,以前问百度要一笔一画手写输入,极大限制了使用频度。而且百度的结果良莠不齐,有时候找到了答案,一多半回来的是垃圾。现在好了,任何问题,对着豆包一通询问,口音也无障碍。偶尔豆包误解了,大不了再啰嗦几句,扩大一下 context,它总可以给你提供有意义的信息或答案。
这才是大模型渗透该有的样子,它是一条不归路,习惯了大模型的人不再可以回转。但还有很多人迄今还没有意识到大模型来到了我们的身边。纵然AI以加速度进展呼啸而来,人类的惰性与习惯行为也会在抵抗的过程中,最终渐进式接纳它。