跟诺奖唱反调?AI教父杨立昆:人工智能比猫还笨 警告其太危险是胡扯

划重点

  1. 马斯克、辛顿以及本吉奥等人都对AI的威胁发出警告,担心该技术毁灭人类,但杨立昆认为他们是在“杞人忧天”。

  2. 杨立昆认为,如今的AI智力水平甚至不及宠物猫,更不用说与人类相匹敌。

  3. 杨立昆指出,我们都被当前AI模型的“神奇表现”误导了,它们看似在推理,实际上只是在重复曾经被训练过的信息。

  4. 杨立昆预测,未来的AI系统能基本具备人类智能的特征,拥有真正的常识,并能像人类的助手一样行事。

图片

纽约大学教授、Facebook母公司Meta的高级研究员杨立昆(Yann LeCun)是推动当今人工智能热潮的关键人物之一。然而,他认为许多专家过度宣扬了人工智能的力量及其潜在的危险性。他坦言,如今的人工智能技术其实远未达到猫的智能程度,而那些声称人工智能构成重大威胁的言论“完全是胡扯”。

01 AI智能水平尚不及宠物猫

当一众知名技术专家预言计算机即将超越并可能取代人类智能之时,杨立昆在人工智能的热潮中独树一帜,以其深厚的资历成为了最为坚定的怀疑论者。

在社交媒体平台、演讲现场以及辩论舞台上,这位人工智能领域的权威人士与那些大肆宣扬生成式人工智能超人潜力的支持者和预言家们展开了激烈的争论。这些争论的对手从埃隆·马斯克(Elon Musk)到与他并称为该领域“AI教父”的两位同行,无一不是业界重量级人物。其中,与他相交近40年的挚友杰弗里·辛顿(Geoffrey Hinton)在上周二荣获了诺贝尔物理学奖,辛顿曾多次发出人工智能可能威胁人类生存的警告。

杨立昆坚信,尽管当前的人工智能模型具有一定的实用性,但其智力水平仍远远无法与我们的宠物相提并论,更不用说与人类智能相匹敌了。当被问及人们是否应担忧人工智能会迅速强大到对我们构成威胁时,他幽默地打趣道:“请原谅我的直白,但那完全是胡扯。”

杨立昆本人散发着一种令人放松的魅力:他顽皮机智,时刻准备着向人们传达他所认为的这个领域的冷酷现实。现年64岁的他,外表既时尚又略显沧桑,这与他身为前巴黎人、现任纽约大学教授的身份非常契合。他佩戴的经典黑色雷朋眼镜框架,几乎与Meta公司推出的人工智能眼镜如出一辙。

图片图注:杨立昆(中)与Meta其他高管参加活动,该公司在人工智能领域投入了大量资金

杨立昆取得的丰硕研究成果以及在科技巨头Meta旗下极具影响力的人工智能研究实验室所担任的职位,为他的批评言论增添了很大分量。

杨立昆在巴黎北部出生并成长,他对人工智能领域的浓厚兴趣部分源自斯坦利·库布里克(Stanley Kubrick)1968年的科幻经典之作《2001太空漫游》(2001: A Space Odyssey),特别是里面失控的人工智能HAL 9000。

在索邦大学获得博士学位后,杨立昆进入了著名的贝尔实验室,这里曾孕育了从晶体管到激光等一系列伟大发明。2003年,他加盟纽约大学,担任计算机科学教授,十年后成为Facebook(现更名为Meta)的人工智能研究主管。

2019年,杨立昆荣获了计算机科学领域的最高荣誉——A.M.图灵大奖,与他一同获奖的还有辛顿和约书亚·本吉奥(Yoshua Bengio)。这一殊荣使他们三人被誉为“人工智能教父”,以表彰他们在神经网络领域所做出的开创性贡献。从OpenAI的聊天机器人到自动驾驶汽车,当今众多强大的人工智能系统均基于神经网络的多层架构构建。

如今,杨立昆仍与他的博士生们携手在纽约大学发表研究成果,而在Meta,作为首席人工智能科学家,他监管着全球资金最为雄厚的人工智能研究机构之一。他时常通过WhatsApp与Meta首席执行官马克·扎克伯格(Mark Zuckerberg)交流,后者视Meta为人工智能热潮中能够与苹果、OpenAI等科技巨头相抗衡的颠覆性力量。

02 观点独树一帜,敌友都要“辩”

图片图注:杨立昆曾透露,他对人工智能的兴趣最初受到了科幻影片《2001太空漫游》的启发

杨立昆在辩论场上与对手和挚友都展开过激烈的较量。今年春天,当马斯克为自己的人工智能公司xAI进行宣传后,杨立昆与其在社交媒体上就科学研究的本质展开了针锋相对的争论。

对于辛顿和本吉奥一再提出的人工智能对人类构成威胁的警告,杨立昆也毫不避讳地表达了自己的不同意见。

本吉奥表示,在诸多话题上他都与杨立昆持有相同观点,但在公司是否值得信赖,以确保未来的超级人工智能既不会被人类恶意利用,也不会自我发展出恶意意图的问题上,两人存在分歧。

本吉奥解释称:“我当然希望杨立昆的观点是正确的,但我认为,我们不能仅仅依靠公司之间的竞争和利润动机来保护公众和民主。这正是我认为政府需要介入的原因。”

而杨立昆则认为,人工智能是一个极具潜力的工具。他列举了众多实例来说明人工智能在Meta所扮演的重要角色,正是得益于人工智能的助力,Meta的规模和收入才得以达到如今约1.5万亿美元的水平。在Meta,无论是实时翻译还是内容审核,人工智能都发挥着不可或缺的作用。

除了专注于基础人工智能研究的FAIR团队外,Meta还有一个名为GenAI的产品人工智能团队,该团队正致力于研发更先进的大语言模型。杨立昆强调:“人工智能对Meta的影响是极其深远的。”

图片图注:2019年,杨立昆与本吉奥(最左)和辛顿(站立)分享了计算机科学领域的最高奖项,辛顿最近还获得了诺贝尔物理学奖

03 通用人工智能还很遥远

与此同时,杨立昆坚信,从任何有意义的衡量标准来看,当前的人工智能都尚未达到真正智能的门槛。而该领域的众多从业者,尤其是人工智能初创公司,却已迫不及待地以杨立昆认为荒谬的方式夸大其近期的发展成果。

倘若杨立昆的观点是正确的,那么这无疑将给当今众多炙手可热的初创公司带来严峻挑战,更不用说那些在人工智能领域斥资数百亿美元的科技巨头了。他们中的许多人坚信,如今基于语言模型的人工智能,例如OpenAI所打造的GPT,将在短期内创造出所谓的“通用人工智能”(AGI),其智能水平将远超人类。

OpenAI的联合创始人兼首席执行官山姆·奥特曼(Sam Altman)上个月曾表示,我们有望在“几千天”内迎来通用人工智能。而马斯克也预测,通用人工智能可能会在2026年问世。

但杨立昆认为,这样的预测或许还为时过早。今年5月,当一位即将离职的OpenAI研究员提及学习如何控制超级人工智能的必要性时,杨立昆迅速作出了回应。他强调:“在我看来,在急于探究‘如何控制比我们聪明得多的人工智能系统’之前,我们首先需要构建一个至少能与家猫相媲美的智能系统作为起点。”

杨立昆对猫的比喻情有独钟。他指出,猫科动物具备对物理世界的心智模型、持久的记忆力、一定的推理能力以及规划能力,而这些特质在当今“最前沿”的人工智能系统中,包括Meta自主研发的系统中,都尚未得到体现。

图片图注:杨立昆曾打趣说,他还没有看到AI显示出“比家猫更聪明的初步迹象”

自1986年起便与杨立昆相识的知名研究员Léon Bottou评价道,杨立昆的“固执”其实是一种积极的品质。尽管他乐于倾听他人的观点,但他始终坚定不移地追求自己认为构建人工智能的正确方法。

亚历山大·里夫斯(Alexander Rives)曾是杨立昆的博士生,后来创办了一家人工智能初创公司。他表示,杨立昆的挑衅言论其实是经过深思熟虑的。里夫斯解释说:“他总能敏锐地察觉到该领域在思考方式上的不足,并勇于指出来。”

04 未来AI系统应具备常识

在杨立昆看来,真正的通用人工智能不仅是一个值得追求的目标,也是Meta正在全力以赴的方向。

他畅想:“未来,当人们与他们的人工智能系统、智能眼镜或其他任何智能设备交流时,我们希望这些系统能基本具备人类智能的特征,拥有真正的常识,并能像人类的助手一样行事。”

然而,他也坦言,创造出具备这种能力的人工智能可能需要几十年的时间,而当前的主流方法还远远无法实现这一目标。

生成式人工智能的蓬勃发展主要得益于大语言模型和类似系统的推动,这些系统在海量数据上进行训练,以精准模仿人类的表达方式。随着每一代模型的迭代升级,其性能也愈发强大。一些专家据此推断,只要持续加大芯片和数据的投入,未来的人工智能必将变得越来越强大,直至达到甚至超越人类的智能水平。这正是大量投资用于研发越来越大规模的专用芯片以训练人工智能背后的逻辑所在。

但杨立昆对此持不同看法。他认为,当今人工智能系统所面临的问题并非源于其规模,而是其设计方式。他说,无论科技巨头在全球各地的数据中心里部署了多少GPU,以当前的人工智能技术,我们都无法实现通用人工智能。

杨立昆坚信,对一种以截然不同方式运作的人工智能进行研究,将引领我们走向实现人类智能水平的道路。这些设想中的未来人工智能可能形态各异,但FAIR当前正在进行的、旨在消化现实世界视频的项目,无疑是令杨立昆倍感兴奋。该项目的核心理念是构建一个模型,该模型能够通过建立世界模型的方式,从接收的视觉信息中学习,其学习方式类似于小动物。

那些支撑ChatGPT及其他聊天机器人运作的大语言模型,在未来可能仅仅是在构建具备常识和类人能力的系统中扮演微不足道的角色。

杨立昆指出,当前的模型实际上仅仅是在预测文本中的下一个单词。然而,由于它们在预测方面的卓越表现,我们常常被它们所迷惑。凭借其庞大的记忆能力,它们看似在进行推理,但实际上只是在重复它们曾经被训练过的信息。

杨立昆强调:“我们往往认为,能够表达自己或操纵语言的人或实体是聪明的,但事实并非如此。一个人或实体即使不聪明,也能操纵语言,而这正是大语言模型所展现出的能力。”(腾讯科技特约编译金鹿)