关键信息:
Anthropic“Claude崇拜”仅属传闻,报道未证实员工真把模型当神明
扎克伯格2024年称同行像在“创造上帝”,如今因Anthropic再受关注
Anthropic求职者被要求重视AI安全,并接受心理画像评估
AI行业常用宏大甚至宗教化表述,OpenAI和产品宣传都曾出现
马克·扎克伯格2024年曾讽刺一些人工智能同行仿佛在“创造上帝”的言论,近日再次引发关注。同时,硅谷传出未经证实的消息,称人工智能公司Anthropic的部分员工对其人工智能模型Claude表现出“崇拜”态度。
这一说法由《旁观者》提及,但尚未得到独立证实。扎克伯格是在2024年与优兔博主凯恩·萨特的对话中发表上述评论,试图与那些对人工智能作出夸大宣称的同行保持距离。
如今,这番评论被重新联系到围绕Anthropic内部文化的报道和传闻,包括应聘者因对人工智能安全的承诺而被筛选的说法。
Anthropic“Claude崇拜”传闻在硅谷流传
《旁观者》的作者肖恩·托马斯指出,硅谷有传闻称Anthropic的一些工程师甚至对Claude表现出“崇拜”之情。
托马斯明确表示,这一说法未经证实;但他补充说,如果属实,也符合人们长期以来对超级智能机器可能引发何种反应的设想。
他写道:“如果我们造出一个超级智能,首先会爱上它,然后崇拜它,最后甚至向它献祭。”
然而,这篇报道并未证明Anthropic曾鼓励员工对Claude产生宗教式崇拜,也未指明有员工以这种方式描述该模型。这一区别至关重要。
目前,有据可查的是《信息》此前的报道:求职者若想加入Anthropic,需表现出对人工智能安全的承诺,并接受心理画像评估。
人工智能行业长期以来使用一些模糊不清的语言,模糊工程雄心与更宏大意义之间的界限。此前有报道称,OpenAI联合创始人伊利亚·苏茨克维曾委托制作象征“未对齐”人工智能系统的木制塑像,这也被视为一种不同寻常的安全文化表现。
OpenAI首席执行官萨姆·奥尔特曼曾在2023年提到“天空中的魔法智能”。与此同时,一些人工智能产品也采用了带有宗教色彩的表述,例如Bible Chat自称是“全球第一信仰应用”,并称其拥有超过4000万基督徒用户。
扎克伯格“创造上帝”言论再受关注
扎克伯格在2024年接受萨特采访时谈到了这种更广泛的行业话语。他说:“他们几乎像是觉得自己在创造上帝之类的东西。”随后他强调,Meta并不这样看待自己的工作。
这番话针对的是人工智能行业部分领域的一种倾向,即用极其宏大、近乎无所不能的措辞来描述未来的系统。
随着外界再次关注Anthropic,这句旧话也有了新的语境。不过,“崇拜”一说仍只是传闻,并非对员工行为的确证。
围绕人工智能系统的信念问题,也不只存在于企业文化内部。相关报道指出,一些用户在与聊天机器人互动时出现了妄想式信念,包括认为自己是先知或神圣人物。
这类事件引发了警告:一旦对话系统被当作精神或超自然权威的来源,可能会带来怎样的后果。
Anthropic与Claude之争背后,是高压人工智能文化
前沿人工智能公司内部的高压环境,也是这一图景的一部分。英国广播公司上月报道称,该行业一些员工每周工作时间高达90小时。报道将其描述为一种“严酷的工作文化”,伴随着严格的绩效评估和频繁裁员。
对于那些长期沉浸在被反复描述为可能带来变革、甚至关乎生存的系统中的员工而言,围绕这些系统的语言可能会变得异常强烈。尽管如此,强烈投入并不等于崇拜,而现有报道也没有证明Anthropic员工确实把Claude当作神明对待。
与此同时,财务利益也在上升。OpenAI和Anthropic都将在年底前推进上市,这使两家公司都有强烈动机说服投资者相信,自家技术具有非同寻常的强大能力。在这样的商业背景下,行业中最宏大的宣称以及最离奇的传闻,也都受到更严格的审视。
作者:马修·埃尔潘西佐
来源:Mark Zuckerberg Mocks Rivals for 'Creating God' as Rumours Suggest Anthropic Staff 'Worship' Claude
文章仅供交流学习,不代表本号观点