WebSkyCity Intelligence
萨姆·奥特曼:OpenAI与 AGI 时代的非共识豪赌
在科技史上,很少有人能像萨姆·奥特曼(Sam Altman)这样,在极短的时间内从硅谷的幕后推手跃升为全球权力的中心。作为 OpenAI 的首席执行官,他不仅启动了自工业革命以来最剧烈的技术变革,也将自己置身于社会伦理、地缘政治与人类文明转型的风暴眼中。
以下这是一天前最新发布的Sam最新访谈,一天内已经有三百万播放量,这里和大家分享全文和视频。
目录
全局摘要和核心观点
消失的“无忧无虑”与成长的代价
AI 的全球视角:印度与美国的温差
自我介绍:好奇心与书呆子童年
规模化与神经网络:非共识的豪赌
创业洞察:选择高价值且非共识的难题
ChatGPT 的诞生:尴尬版与 5% 留存率
愿景与责任:为何必须构建 AGI?
团队与文化:找回伟大实验室的灵魂
心理素质:从冥想到极致冷静
护城河与成功准则:超越平庸的复利
未来的治理:进步速度与科学发现
全局摘要
本访谈深入探讨了 OpenAI 首席执行官 Sam Altman 的内心世界、决策逻辑以及对 AI 未来的预判。对话涵盖了从 OpenAI 早期不被理解的“规模化”豪赌,到 ChatGPT 顶着压力发布的幕后故事,再到 Altman 个人生活方式的改变以及他对权力的看法。文章展现了一个在巨大社会责任与争议中,依然坚持通过科学进步推动人类发展的建设者形象。
核心观点
- 复利式的成长
:真正的成功源于在每一阶段积累的基础上持续鞭策自己,而非简单重复。 - 非共识的正确
:在初创阶段被误解是一种优势,关键在于能否向聪明且严谨的人解释清楚逻辑并建立信念。 - 文化的力量
:OpenAI 的成功在于确立了极其宏大且清晰的 AGI 目标,并以此吸引了全球最顶尖的、拥有极高信念的人才。 - 科学是第一推动力
重塑自我的代价:消失的“无忧无虑”与精准至秒的人生
对于奥特曼而言,构建 AGI(通用人工智能)的过程,本质上是一个不断抛弃旧自我的过程。他坦言,那个曾经在周二晚上随性约友聚餐、在周六下午漫无目的浏览网页的“无忧无虑”的自己已经消亡。
“没有人能在构建超级智能的同时,还能过上平静安稳的生活,这是不可能的”。奥特曼说道。如今他的日程表被精准地切割,即便是坐在咖啡馆工作,旁边也会有两名安保人员形影不离。这种自由的丧失被他视为一种“公平的交易”。他认为,身处这一位置必须具备极高的激活能和心理素质,去应对外界投射而来的巨大焦虑与质疑。为了保持极致的冷静,奥特曼曾每天花数小时冥想,而现在,他已训练出在几秒钟内迅速进入深层专注状态的能力。
非共识的豪赌:在怀疑声中预见神经网络的规模效应
OpenAI 的起点并非共识,而是一场社会地位极低的冒险。2015 年前后,学术界普遍认为 AGI 是百年后的幻想,而奥特曼及其团队则敏锐地捕捉到了一个被大多数聪明人忽略的模式:规模化(Scaling)带来的超线性回报。
“当我看到神经网络确实有效,且性能随规模扩大而提升时,我产生了一种强烈的直觉:我们应该大幅增加它们的规模”。当时,许多顶尖科学家认为这只是“简单的预测下一个单词”,永远无法产生新知识。然而,奥特曼坚持认为,模型在学习预测的过程中,实际上内化了一种通用的推理能力。在 GPT-4 训练完成后,尽管外界尚未察觉,OpenAI 内部已决定孤注一掷购入海量算力。这种在结果明朗前、仅凭 50% 把握与近乎执念的坚持所做出的决策,最终成为了 OpenAI 领先世界的护城河。
尴尬的“5%”:为什么不完美的产品才是进化的起点
ChatGPT 的诞生并非一场完美的演出,而是一次基于 YC 经验主义的“抢跑”。奥特曼透露,ChatGPT 发布前的内部原型表现极差,留存率仅有 5% 左右。在绝大多数公司看来,这样的数据意味着项目死刑,但奥特曼看到了那 5% 用户展现出的极致狂热。
“如果你的首个版本没让你感到一点尴尬,那说明你发布得太晚了,因为你真正需要的是反馈”。他坚信,早期项目的关键不在于拥有一大群“略微喜欢”的用户,而在于拥有一小群“真正热爱”的人。正是这种对“尴尬版本”的容忍,让 OpenAI 得以在真实世界中快速迭代。如今,虽然 OpenAI 的产品已接近基础设施级别,必须遵循极高的门槛,但奥特曼依然鼓励团队保持那种“发布早期草图”的勇气,通过不断的非对称实验来探索未知的用户边界。
文化的力量:以宏大愿景汇聚全球最顶尖的“疯狂天才”
在 OpenAI 经历的管理层震荡中,700 名员工曾集体威胁以辞职支持奥特曼。这种罕见的忠诚并非源于股权(奥特曼本人并不持有公司股份),而是源于一种找回了“伟大科学实验室灵魂”的组织文化。
奥特曼指出,建立卓越文化的秘诀在于挑选一个极其宏大且遥远的难题。“不要含糊其辞,不要因为有些人说你疯狂就动摇。当你直言不讳地宣布致力于 AGI 时,就能凝聚一群拥有极高信念的人”。在他看来,许多实验室的失败在于失去了对终极目标的敬畏与专注。OpenAI 将 AGI 作为北极星,吸引了那些即便不被理解也愿意为了改变文明进程而工作的顶尖大脑,这种“非共识的人才密度”构成了公司最核心的不公平竞争优势。
科学是第一推动力:AI 的终极使命是揭开物理世界的奥秘
在谈及未来时,奥特曼的兴奋点并不在于聊天机器人的社交功能,而是在于 AI 对科学发现的加速作用。他认为,人类文明的每一次飞跃都源于对物理世界理解的加深。
“我非常期待看到,我们能将 AI 推向多远,以发现新的科学”。从数学证明到新能源开发,从深层物理洞见到底层医疗突破,奥特曼认为 AI 最终将进化成一台“发现新知识的机器”。这种对科学进步的渴望,也是他应对技术恐惧的解药。面对全球范围内对 AI 权力的担忧,他主张一种多元主义的治理结构,通过多方竞争与迭代,确保这项能够扭转现实意志的技术最终成为社会中一股向善且非垄断的力量。
在奥特曼看来,真正的复利成长不仅体现在算法的迭代上,更体现在建设者不断鞭策自己去尝试那些“令人不适且非显而易见的新事物”的过程中。尽管无忧无虑的生活已成往事,但他依然认为,能够亲手构建这台加速人类文明的机器,是一场极其“公平”且值得的交换。
完整访谈整理
对话 Sam Altman: OpenAI和 AGI 时代的非共识豪赌
消失的“无忧无虑”与成长的代价
那么,哪一个版本的你已经死去了?
比如,你刚开始时是谁,现在又变成了谁?我那时要无忧无虑得多。就像我们开始敞开心扉的时候那样。我的生活在那时非常轻松。
我有很多爱好。而现在我的日程安排得极其精准,已经很久没能做任何随心所欲的事了。
在你生命中有没有哪个时刻,除了你以外没有人相信那真的是你?
推出 ChatGPT 就是一个这样的例子。并不是人们不想发布。推出了一款聊天机器人,但大多数人认为时机尚早,且表现还不够好。
当你与他人交谈时,他们有时会说你有妄想症吗?
但我认为我可能应该多听听这种声音。为什么?很多身居我这类职位的人,之所以会出现问题,是因为他们被太多唯唯诺诺的人包围了。
你经历过人们起诉你、合伙人退出,还有政府试图调查关于你的各种事情。经历了这一切,你个人发生了改变吗?
没有人能在构建超级智能的同时,还能过上平静安稳的生活,这是不可能的。但我认为我的心理素质足以应对这一切。我能够应付周围发生的许多疯狂的事情。
AI 的全球视角:印度与美国的温差
当我与美国人交谈时,他们对 AI 略显悲观。而当我与印度人交谈时,他们则非常乐观。这有着不可思议的差异。
印度就像我们在全球最大的市场。
相较于发达经济体,那些发展速度更快、经济增长更迅速、对产品和服务需求更大的国家,对 AI 的接纳度更高。所以我肯定那是原因之一。
你认为你今天依然被误解吗?
人们对这项技术的理解还不够透彻。但我认为大家至少明白 AI 正在全球范围内发生。这无疑是我所见过的创立新公司的最佳时机。
你会为此感到担忧吗?最大的担忧是什么?
我们已经采取了一些行动。我们将继续做一些事情,这将成为社会中一股非凡的力量。我相信它可以成为一股向善的力量,但你要知道,这其中的利害关系非常重大。
自我介绍:好奇心与书呆子童年
欢迎来到节目。谢谢你的邀请。Sam Altman,欢迎来到 Figuring Out,非常荣幸。我真的很感谢你做这些事。如果有人是第一次看你的内容,完全不知道你是谁,你会如何在接下来的60秒内向他们介绍你自己?
我是一个科技爱好者,一个对世界充满好奇的人,也是一个坚信 AI 将会触及我们所有人的生活,并希望是在我有生之年实现这一目标的人。主要是在极其积极的方面。我是一位父亲。我非常爱我的孩子们。这就是我会说的内容。
但是你会思考某些特定的事情吗?比如你会如何思考、如何表达或者如何谈论这些事情?
我只是尽量自然地谈论我脑子里想的事情,或者我感兴趣的事情。
好的。那你从小就是这样吗?总是想着接下来该说点什么有趣的话。我想我小时候就是那样。
我想我一直都只是追随自己的好奇心。
那你小时候有没有感到自卑过?
一直都有。我相信大多数孩子都会这样。但我当时是一个非常书呆子的孩子。我不擅长运动,而且我成长的那个年代,运动恰好是非常酷的事情。
我也是。没错。我也很不擅长体育运动。而且那在当时被视为一件很酷的事情。
是啊。确实如此。我并不是说我没有很多朋友,我也善于与人建立联系,但我从来都不是那种酷小孩。
那件事困扰过你吗?
算是吧。并没有,我不认为它像困扰某些人那样困扰过我。但确实,我觉得所有的孩子都想变得受欢迎、变得酷。
而且我觉得,作为一个孩子,如果没能做到这一点会非常痛苦。没有那种身处核心圈子或类似的感觉。你说过这并没有像困扰某些人那样困扰你。你这话是什么意思?
区别在哪里?你当时在想什么?我和其他人聊过,他们会说,童年的决定性特征就是像个书呆子、不受欢迎,很讨厌那样。
而我当时确实是个书呆子,也不受欢迎,这确实稍微困扰了我一下。但我有我的电脑,有我的核心朋友圈,我度过了一个美好的童年,我想我当时非常快乐。
好的,我想做的是这些。我想更多地谈谈你的大脑,比如你是如何思考的,你是如何真正做出决策的,以及你对某些事情的看法,因为我觉得这对我来说真的非常迷人,尚未得到充分探索。
好的,这很棒。我觉得评价自己确实很难,但我会尽力而为。
或许可以聊聊你曾在各处采访中提到的一些观点,我不明白为什么人们没有在那条路上深挖下去。让我们开始吧。
这也是我想做的事。
当我与美国人交谈时,哪怕是一个随机的路人,他们对 AI 都有些悲观;而当我与印度人交谈时,他们却对此非常乐观。这其中的差异令人难以置信。你认为造成这种差异的原因是什么?
规模化与神经网络:非共识的豪赌
首先,印度是我们在全球拥有最多 ChatGPT 用户的市场,而且增长非常迅速。那里的人们在使用它时展现出了惊人的创造力。
比美国还大吗?
是的。印度使用 ChatGPT 的人比美国还多。人们正在以令人难以置信的方式使用它来创办公司。我刚听说有个印度小孩需要为学校筹款,但他以前从未做过筹款,通过我们的一套工具,他成功完成了筹款全过程,这太棒了。
所以我认为这个国家的应用普及速度非常快。
但我确实认为,美国——至少从表达出的偏好来看——对人工智能的态度相比世界其他地区显得异常消极。而印度可能显得异常积极。
但为什么呢?你对此有何看法?这是为什么,为什么会存在差异?
许多人观察到的一个现象是,那些发展速度较快、经济增长较快、对产品和服务需求较大,且存在巨大供需缺口的国家,比起发达经济体,对 AI 的态度更为欢迎。所以我肯定这也是原因之一。
很有意思。还有一件事,当我阅读关于你的报道时,无论是在美国还是在印度,那种悲观与乐观并存的情绪,也反映在了你身上。最令人着迷的是,你竟然是这个时代最卓越的技术革命的发起者。你是先行者。你甚至不持有自己公司的股权。然而,你却突然之间成了反面人物。这是怎么回事?为什么?
我认为美国人对掌权者持有强烈的怀疑态度。尤其是对于科技行业所掌握的巨大权力,他们更是如此。但是,我想说,这可能是一件好事。
在某些方面,我确实觉得这种怀疑有些过头了。
有趣。你认为外界对你最大的误解是什么?
我认为没有持有 OpenAI 的股权是一个错误。我当时这么做是基于我认为正当的理由,但现在看来,这确实给人们造成了极大的困惑。这对我来说挺有意思的,不是吗?
因为如果一位艺术家在艺术项目上付出了巨大的努力,或者一位体育明星刻苦训练却没赚到很多钱,大家对此都不会有任何异议。这算是某种共识吧。而这就像是我在这方面的对应产物。但是,就像它一直以来……
为什么它会被误解?人们到底哪里没理解?
我觉得这只是太偏离了人们对于创办公司或从事商业活动初衷的常规认知。这简直太古怪了。实际上就很怪。人们不喜欢古怪的东西。
我也觉得这很奇怪。
是啊。然后你会想,为什么要这样做呢?关于为什么要这样做,我认为这是我能想象到的最有趣、最重要且最有价值的工作。能从事这项工作令人难以置信地着迷和兴奋,毕竟这是一场真正的探索。但这就像一个无底洞,我们会不断深入挖掘,因为我和许多其他人一样,对此完全不了解,但我非常尊重你的工作,所以谢谢你。
好的,你曾说过,我完全照读:你应该用短期的低地位去换取长期的长久高地位,而大多数人似乎并不愿意这样做。
所以,只要你的判断是正确的,被大多数人误解反而是一种优势,而不是弱点。我觉得这很吸引人。但问题在于,在结果明朗之前,你怎么判断这到底是属于“被误解”,还是单纯的“错误”?
说实话,你确实无法确定,你只能拥有高度的信念。随着证据的增多,你可以不断提高自己的信念程度,我认为这才是正确的追求方向。但你无法百分之百确定。无法百分之百确定,这正是令人兴奋的一部分。
但当我们刚开始的时候,当我们最初创办 OpenAI 时,这是一件社会地位极低的事情。我们知道如果能实现它,它会很有价值。但几乎没人把我们当回事。
感觉就像是,AGI 也许要等 100 年以后,甚至永远都不会实现。你们不过是一群孩子,没有光鲜的学术背景之类的,外界是非常、非常消极的。我们有理由进行这次押注,随着我们摸索出更多东西,我们有理由变得更加自信,但它最终能够成功仍然令人惊叹。所以我认为这是一次期望值不错的押注,但它远非十拿九稳。
那么,有哪些信号让你变得非常确定这可能会成功?有些事情是我想要去做的。
我觉得我们每个人一生中都会有几次,或者说少数几次,获得伟大的洞见,并不断以新的方式去运用它们。对我而言,其中一点是关于规模所带来的某种令人惊奇的特性。
我注意到在公司、国家、城市、个人的职业生涯,以及许多科技领域中,例如我之前参与的 Y Combinator 这样的网络,当你真正扩大那些在小规模下运作良好的事物时,通常会看到更大规模所带来的超线性回报。就像其他人一样,无论我是否有意为之,我总是一个模式识别者。
一旦我们看到神经网络(neural networks)确实有效,并且随着规模的扩大性能在提升,我便产生了浓厚的兴趣,并有一种强烈的直觉,认为我们应该尝试大幅增加它们的规模。当时,我们还不知道究竟能多精确地通过规模来预测其特性。
那是在我们掌握扩展定律(scaling laws)的多年前。但我们大体观察到,如果你将神经网络做得更大,它就能完成更多令人印象深刻的事情。这一点首先带来了 AlexNet 的成果,随后又促成了更多成就。
但这很可能也是许多人都能看到的信号,是什么阻碍了他们基于此进行构建呢?
我发现这是我职业生涯中观察到的最令人困惑的事情之一。为什么是在 2015 年、2016 年?即便到了 2018 年到 2020 年,一方面,为什么其他人看着同样的数据却不说这太疯狂了?比如,我们必须在这方面投入更多。这对我以及大楼里的每个人来说似乎都显而易见。
也许,我们几乎觉得自己产生了幻觉,因为我们在想,怎么会有人看不出来,怎么会有人看不见这一点?我想这其中似乎有些特殊之处。感觉太容易了。它几乎让人感到难以置信。
你会看到这些神经网络所犯的错误,然后你会说,绝不可能有如此愚蠢的东西仅仅通过扩大规模就能解决其所有问题。当时的情况就是,似乎所有这些聪明人都认为你必须要有符号表示,或者你必须这样做,我可以给你一个非常充分的理由。我记得有人阐述了为什么我们的方法注定行不通,而且听起来非常有说服力。
那是什么?
大意是这样的:这些模型所做的就是根据它们训练集中的内容,学习预测接下来可能出现什么。但这也就意味着它们永远无法创造出新的知识。因为它们只能对训练集中的内容进行建模。这听起来确实非常合情合理。
也许你可以向模型展示一百万道数学题,它们就能学会如何解答这些题目。但你并没有向它展示一个尚未被证明的新事物,因为它还未被发现。所以它将无法做到这一点。显而易见,我们现在知道那是非常荒谬的。但在当时,这听起来非常有说服力。
它所缺失的一点在于,这些模型正在学习的并不是——确实也包含这些,但它们学习到的重点并非具体的数学问题,而是一种通用的推理能力,并且这种能力可以扩展到新的领域中。
那么,请带我回到你进行这一切研究时的一个具体决策时刻,当时其他人都在告诉你这可能永远不会成功,请告诉我一个例子,带我回到你做出的一个关键决策,当时你的把握只有50%,而剩下的50%则源于一种近乎执念的坚持。
在我们完成 GPT-4 训练后,那大约是 2022 年 8 月,我们在向公众发布前大约提前了七八个月完成,类似那样的时间点。当时我们持有这一成果并对其进行研究,我们知道它非同寻常,但我们也花了一些时间才意识到它将开启的全新研究方向,以及 GPT-4 发布后模型改进的速度可能会有多快。
我们意识到可以进行后来被称为思维链(chain of thought)的研究以及推理模型的工作,于是我们决定在算力上进行一次非常大的押注,因为我们看到了模型可以持续扩展,且这些模型的价值将极其重要,但这在当时还是全新的,而世界上的其他人尚未达到这一认知水平。
他们甚至还没见过 GPT-4。他们还没有内化我们认为它能够实现的能力。因此我们决定孤注一掷,将公司的未来押注在购入大量算力上。这在当时看来是非常疯狂的举动。但我们有足够的信念,相信自己判断无误,因为我们能够运用这一模型,并且已经内化了其扩展特性。
那你当时还有什么其他的选择吗?
在算力上进行远没那么激进的押注,并降低扩展的速度。
你认为当时如果获得任何其他信息,会改变你的决定吗?
我认为如果模型表现哪怕稍微弱一点点,比如 GPT-4 的表现仅相当于 GPT-3.8 的规模,那我们确实不会有足够的信念去进行如此重大的押注。
当你与其他人交流时,他们有时会说你产生错觉了吗?即便在今天也是如此?
但我认为我可能应该多听听这种声音。
为什么?
我认为许多担任我这一角色的人之所以失败,是因为他们身边充斥着只会唯唯诺诺的人。你确实需要反对的声音。
但你如何确保自己今天身边不是充斥着唯唯诺诺的人?
让老朋友留在身边非常有帮助。与你共事超过10年的人在一起,是非常有益的。
此外,真正培养一种奖励机制,鼓励员工在你犯错时提出强力反驳,并让这种反馈变得容易实现,我认为也非常重要。但这需要积极的维护。随着你正确决策次数的增多,以及你在世界上所拥有的影响力越大,我认为这方面的核心就越难以把握。
看,这就是创始人面临的困惑。所以,当你身边都是老朋友、真正聪明的人以及你所推崇的导师,而他们告诉你,这件事错了,你的思考方向偏了。那你该如何说服他们,或者干脆选择反其道而行之?又该如何确定反其道而行之在今天就是正确的做法呢?因为我相信这种情况一定会发生。
我违背他人所有建议而去行事的次数极少。虽然确实发生过,但非常罕见。
我确实见过很多人,虽然不是特别多。我遇到过一些人,尤其是创始人,他们以在众人反对时依然坚持己见为傲。但我个人的观点是,你应该非常勉强地才那样做。
如果你身边都是聪明人,你应该多听取他们的意见。如果你决定在没人看好你的情况下依然要去做,你应该意识到这是一项代价高昂、正确率可能不高且风险巨大的举措,你必须对此有坚定的信念。
谈到聪明人和创始人们,你认为是什么阻碍了他们?他们显然很聪明,是什么阻止了他们像你一样构建出如此非凡的事业?
我认为 AI 不仅只出现过一次,所以我认为我们在选择问题上运气不错,或者是做得还不错。但我认为很多人都在构建非凡的事业。目前全球范围内伟大公司的创立速度,是我前所未见的。
我相信,现在或许是历史上最适合构建新公司、开创新事业的时期。公司去创造一项新技术,去创造一种新型的创意项目。我们刚刚得到了这份不可思议的礼物。我认为人们现在所做的事情令人惊叹。所以我认为我们将看到许多非常非凡的事物,无论是公司还是其他形式的成果被建立起来。
既然现在每个人都在创建公司,且有如此多的事情正在发生,真正的行动正在进行。一些创始人此刻正在观看这段内容。他们可能会认为,由于 AI 和技术的发展,那些对我来说显而易见的事情,对许多人而言却并非如此。那个人该如何判断这是否是正确的做法,并且不被误解呢?
这正是作为创始人你的职责所在,这就像是,如果你正在创办一家你能想象到的最具雄心的公司,你当然会被误解。
创业洞察:选择高价值且非共识的难题
没错。
现在有很多公司显然是有好创意的,你依然可以在那些领域取得巨大成功,但如果这些创意显而易见,那么许多其他有抱负的人也会去尝试。所以,当我们 2015 年创办 OpenAI 时,我认为当时启动的 AGI 实验室数量屈指可数,甚至可能一个手掌都数不过来,也许那一年只有 OpenAI 一家,我不确定,但当时可能有大约 10,000 家照片分享公司。
大多数人认为创办一家照片分享公司是更好的主意。但问题是,当时已经有 10,000 家竞争对手了,而且 Instagram 还有巨大的网络效应以及其他种种优势。所以我认为,选择那些你认为比表面看起来更有价值的事物,即使它们成功的可能性较低,但一旦成功所带来的价值极高,那么其期望值也是可观的。当你找到这样的事物时,你就拥有了真正的优势。
当你比其他人更早理解某项技术、某项科学原理或世界的某种运作方式时,人们往往会产生一种本能,即觉得身边有很多聪明人,我不想被他们认为愚蠢,所以即使他们不理解,他们也可能会劝阻我。但我认为还有另一种我鼓励人们培养的直觉,那就是如果你真的理解某件事,并且这不仅仅是痴心妄想,你能够清晰表达出为什么这是一个明智的赌注,那么你就应该珍惜这些时刻。作为一名建设者,这应该是你最感到兴奋的事情。
你是如何做出那种判断的?你如何找到一个非共识的赌注?
好问题。我个人的经验是,这是从未有人教过我的一件事。而且,我在学校里的经历中,极少涉及如何找出该问什么问题。
你学到的是如何回答。
别人提出的问题。然后在某个阶段,我想当你成为一名 PhD 学生或诸如此类的时候,你开始有机会提出更多问题,并最终越来越多地去做这件事。但我认为我们应该更加关注如何教导人们,特别是非常年轻的人,让他们学会如何提出问题,以及如何去探索那些我们尚未了解的领域。我认为磨练这项技能是我能够找出那些非共识性机会的最佳途径。
即学会如何提出高质量的问题。这可以学习吗?
我想可以。是的。就像所有这些事情一样,也许并非每个人在各个方面都有同样的禀赋。但我认为这是一项许多人似乎都能够学会的技能。
我不记得是哪种文化还是哪个国家有这样一条规定:当孩子放学回家时,母亲会问孩子,你今天提了什么问题?你知道是哪种文化吗?
那非常有意思。
我看看能不能找到。我觉得是犹太文化或者类似的地方,我不确定。但确实有某种文化,那里的母亲只会问孩子问题,而不是询问他们当天的高光时刻。她们问的是:你今天问了什么问题?
那太酷了。这是一个我们应该培养的好习惯。我打算在我的孩子身上试一试。我会在15年左右的时间回来汇报情况。
但你怎么知道那不是一厢情愿呢?有什么迹象吗?有没有什么具体的标准可以让你确定,如果这就是思维中的信号?
我觉得我现在的思考方式大概是有道理的。是这样,举个例子,一件事是:你能否向一位乐观、热情但头脑严谨且聪明的伙伴解释清楚,并让他们认同这为什么可能是一个好的选择?
我记得我们刚开始创办 OpenAI 时,主流观点是非常怀疑的,但我会和人们交流,我会说,你看,这是证据,这是我们所见到的,这是为什么这可能会奏效,这是为什么如果成功了它会产生巨大的影响,以及这就是为什么我们认为这种方法行得通,然后,如果我们能制造出超级智能,那为什么这具有巨大的价值,显而易见。
而且,虽然不是每次都能成功,但当我们和某位聪明但并非相关领域的专家交流时,足够多的次数里,他们会说,好的,看起来确实如此,这改变了我的看法。这看起来是值得一做的。
现在,如果我们说服了所有人,那可能就太显而易见了。但如果我们完全无法说服任何人,我反而会更加怀疑。现在我把它说出来时,我在想,历史上一定有过那种虽然无法说服任何人,但最终事实证明他们是正确的情况。所以在某种程度上,你必须相信自己的直觉。
在你的人生中,有没有过这种时刻:除了你之外,没有任何人被说服?
我是说,确实有过一些小的决策,比如我打算做某件事,但领导团队的其他成员都不支持。
能给我举个例子吗?
推出 ChatGPT 就属于这种例子。倒不是说大家不想推出聊天机器人,而是大多数人认为时机未到,而且产品不够完善。
ChatGPT 的诞生:尴尬版与 5% 留存率
有意思。是什么让你违背了他们的意见,决定坚持上线?是 YC 的经历吗?
我想没错,我认为就是 YC 的经历。比如,我曾花很长时间向创始人灌输一个观点:如果你的首个版本没让你感到一点尴尬,那说明你发布得太晚了,因为你真正需要的是反馈。
还有一件事,因为我们当时有一个内部版本,这其实是一个很好的洞察。那个内部版本的留存率极其糟糕。我想第一版 ChatGPT 大约只有 5% 左右的用户会持续使用。当然,数据本身很差的原因有很多。我们当时有更好的模型。我们还有其他的界面。但很多人看到这些会说,留存率只有 5% 的产品是无法发布的。那太糟糕了。
通常情况确实如此。
但当你与那 5% 的用户交谈时,会发现其中一些人真的很喜欢它。这是 YC 的另一项重要经验,对于初始项目而言,至关重要的是拥有一小群非常热爱该产品的人,而不是一大群只是略微喜欢它的人。因此,尽管 ChatGPT 内部原型的留存率数据非常低,但那些喜欢它的人确实高频地使用了它,并且非常喜爱它。这倒不是说那是一个非常好的信号。
还有第一点,你刚才说了两件不同的事,第一点是关于尴尬,也就是说,如果你不对你的第一款产品感到尴尬,那么你发布得就太晚了。即使在今天,你依然能接受这种尴尬吗?
没错,我是说,你看,我希望我们能推出出色的产品,但我乐于见到我们先发布一些早期草图以获取反馈并进行学习,并非所有尝试都会成功。但随着公司规模的扩大,现在情况有所不同了,因为我们拥有足够多的用户,而且人们在许多事情上都信任我们,所以我们面向全体用户群发布的内容必须达到很高的门槛。此外,鉴于公司现在——这已经接近关键基础设施了,企业确实非常依赖它,所以对于我们发布的企业级产品,标准非常、非常高。
好的,现在情况确实变了,但我们仍然可以尝试其他方向。我认为,希望你能看到我们尝试许多新产品,其中一些会让你真正感到惊喜并融入核心体验,而另一些则可能让人们觉得,嗯,理论上看起来不错,但不太适合我。
有趣。另一件事是,我们刚才提到了被误解的问题。你认为今天你仍然被误解吗?
我认为在现阶段,世界上大多数人看待 AI 的态度是:好的,我相信这件事将会发生。现在,显然,它并非完全受到欢迎。而且我认为,我们对世界的愿景,以及我们对人们将如何使用这一工具、这一技术的期望,目前仍然没有被很好地理解。
但我认为人们至少明白 AI 正在发生。好的。让我们回到你试图成就非凡事业的话题上,而且你也在投资其他人。我们正在谈论 YC。还有另一句引用,是你自己写过的。内容大概是关于你拥有某种意志,去扭曲现实。或者说你扭曲世界的意志,这种特质所占的比例非常高。大多数人甚至连尝试都不敢。你还记得吗?
我记得类似的话,是的。就像人们能做到的远比他们自认为的多,而大多数人尝试得还不够,大概就是这样。
没错。那你觉得为什么人们不去挑战那些高难度的目标?
我对此有一堆理论,但很多都可以归结为:人们倾向于留在群体中。不去做一些不同寻常的事情,从而避免可能面临的失败、看起来错误或者看起来愚蠢,这会让人感到更舒适。这很容易归结为进化生物学层面的原因,比如你不想被踢出部落之类的。但我认为,仅仅因为社会构建的方式,人们确实承受着巨大的压力而不去那样做。甚至不仅如此,我认为社会之所以被构建成现在这样,正是因为进化压力。我认为这可能深植于我们大多数人的本性之中。
那么,在你身上有什么特质帮助你扭转这种意志,或者按照你的意志去改变世界呢?
我一直拥有某种特质——在许多其他环境下这可能是一种负面特质——也就是那种想要按部就班、随波逐流的内在压力要小一些。而且我觉得这大概率主要是由基因决定的。
仅仅是基因吗?你不认为还有其他你自身塑造的因素吗?
我肯定还有其他因素。你可以找到各种研究,说明那些轻微自闭症倾向的人倾向于更有可能去创造新的科学,或者说,专注于某一个想法,并为了它克服重重困难在实验室里极其刻苦地工作。
愿景与责任:为何必须构建 AGI?
那么,对你而言,那个令你意志发生转变的时刻是什么?
大概是创办 OpenAI。希望现在下结论还为时过早,但我认为这可能是我一生中做过的最重要的事。
你对此感到担忧吗?关于 AI?关于 OpenAI。
当然。我们正在做,或者说已经做过,并且将继续做的事情,将会成为社会中一股非凡的力量。我相信它可以成为一股向善的力量,而且从净收益来看,它确实会是一股向善的力量,但这涉及的风险非常高,我们肩负着巨大的责任。
这让我想到了你最初写的一篇关于 SMI 的文章,在那篇文章之后,也就是那年五月,你写信给 Elon 谈到了这件事。你说过,如果除了 Google 之外还有其他人开启这项研究会更好,你说人类持续生存面临的最大威胁将会是 SMI。为什么你认为如果由你开启这项研究,它构成的威胁就会减小?
我相信多元主义。我也不认为只有我们拥有这项技术是好事。我认为这种情况如果出现严重偏差,大概有两种卡通式的推演方式。
其中一种是失去了对 AI 的控制。我们会有意或无意地将未来的控制权移交给那些能力远超我们的系统,且一旦交出便无法收回。
另一种情况是,某个人、某家公司或某个国家相对于其他人变得过于强大。我认为这种情况非常不稳定。我认为世界上存在多个采用不同路径、相互竞争并以不同方式推出产品的 AI 项目,对世界而言其实会更好。而且,正如我们之前谈到的,人们不喜欢过于强大的人。我也同样不喜欢权力过度集中。
那么,你最初创立公司时也是这么想的吗?认为即使是一个拥有全世界所有资源的人,也不应该在今天掌握这种权力?
至少不应该有才对。
好的。那我们假设现在已经有很多了,现在有四五家大型公司。它们拥有世界上所有的资本。它们拥有顶尖的人才。它们拥有各种各样的技术和研究。它们都在致力于此。在这方面,你们的不公平竞争优势是什么?
我认为我们拥有最多的用户,以及从芯片到数据中心、再到模型等各种配套技术的最优架构,这使我们能够将丰富的智能交付到用户手中。我认为我们拥有最好的品牌,以及用户所期望的价值观,比如我们希望其他人都能成功,我想人们能从我们身上感受到这一点。我们不想成为那种统治所有人的公司,这可以追溯到我们的创立初心。
不,我指的是什么造就了现在的你,Sam Altman。你个人吗?你认为你的超级优势是什么?
我从事这一行的时间最长。我想这也不完全对。我想 Demis 从事这一行的时间比我更长。我认为我有一个巨大的优势,那就是有足够长的时间去观察整个发展过程。这不仅有助于培养经营公司的直觉,还建立了贯穿整个生态系统的联系。这些确实很有帮助。
有趣。但你一定做对了什么。你说不确定如何经营公司,但你在公司经营上确实做对了一些事情。因为当你被解雇时,有 700 名员工威胁要辞职。你认为作为创始人你做对了什么,才让 700 人,几乎整个公司的人都愿意支持你?
团队与文化:找回伟大实验室的灵魂
我不认为这是某一件具体的事情,而且我不认为这主要与我个人有关。或许我所做的是挑选了领导团队,并确立了我们的运营目标以及工作方式。
但我们做的最正确的一件事是,我们汇聚了一群非凡的人才,他们受到共同使命的强烈驱动,并拥有非常健康的文化氛围——这种文化兼具了在必要领域保持高度坚定,而在其他方面保持开放心态和探索精神的特质,这是一种独特的文化。我认为,未来当史书记录 OpenAI 时,我最希望他们谈论的是我们如何找回了那种造就伟大研究实验室的文化,以及为什么这种文化曾一度缺失了那么久。
那么,对于那些试图打造类似事业的年轻创始人,他们能从你们建立的这种文化中学到什么呢?
首先是要有极高的坚定信念,对你所要实现的目标有极其清晰的认知。即使你所做的事在大多数人听起来很疯狂,甚至可以说正因为听起来疯狂,这种愿意采取这一路径去思考和行动的事实,对某些特定群体来说是非常具有吸引力的。
因此,当我们刚起步时,我们就明确表示要致力于构建 AGI。这就是我们推动的方向,也是我们努力实现的目标。但最核心的是,我们押注了 AGI,如果最初的方向被证明是错的,我们会做出改变。当时世界上并没有多少其他机构还在宣称他们致力于构建 AGI。我认为即便在那个节点,DeepMind 也已经不再说他们在尝试做这件事了。
因此,尽管大多数人认为我们疯了,也不想与我们产生关联,但我们实际上能够聚集所有同样相信这一愿景的顶尖人才。纵观近代史上一些伟大的科学与创新项目,你会发现许多项目都有这一共同点。
很有意思。所以你只需挑选一个极其遥远且宏大的难题,并非常明确地表示你正致力于此。这就是打造卓越企业文化的方式。
或许“遥远”并不是我会选择的词,但你可以选择一个问题,明确指向那些真正有才华的人想要投入研究的领域。
要非常明确且专注地表明,这就是你努力追求的目标。不要含糊其辞,不要因为有些人会说你疯狂、愚蠢甚至更难听的话,就让你动摇,不要让这些言论影响你的决心;当你直言不讳时,就能凝聚一群拥有极高信念的人,共同投身于真正重要的事情。
但后来你们进行了整合,吸引了全球各地的人才,然后他们中的一些人开始离职。你把这称为 AI 领域的戏剧性事件,莎士比亚式的悲喜剧。比如说,Mira 离开了,Ilya 离开了,Dario 创办了其他公司,还有 Elon。他们都在建立属于自己的事业,而且他们之间也并不融洽,就像每个人都在做自己的项目。大家的分歧究竟是什么?你们当初是第一批开启这项事业的人,现在每个人都在各干各的。
我觉得很多人的思维里会出现一种倾向,即因为赌注太大,他们只信任自己去构建这一切。
有意思。但这是因为采用的方法,还是仅仅因为……或者你觉得权力集中在别人手中?他们是在担心,还是担心某人的行事方式?
我认为两者是相关的。我觉得在某种程度上,他的方法很糟糕,所以我不能让权力集中到他手中。
类似那样吧。
这是方法论和信任的问题,是的,而不是那个原因。而且你已经经历了所有这一切。经历了这一切之后,你作为一个人的心态发生改变了吗?因为你还年轻,你也不算那么年轻了。但你经历过像被人起诉这样的事,你在开创一些疯狂的事业,有人中途退出,政府也在试图调查关于你的很多事情,这根本不可能。
有人能去构建超级智能,同时生活还不变得疯狂,所以我对此并不感到太惊讶。我还记得在早期,我们刚开始创立 OpenAI 时,我并没有认真考虑过这一点。但后来当它真的会成功变得更加清晰时,我记得我非常清楚地想到,天哪,我的生活将会变得非常疯狂。
心理素质:从冥想到极致冷静
我认为我天生就适合应对这种情况,我可以处理周围发生的许多疯狂的事情。
你为什么这么说?
看起来我能应对。
而且你从创办公司开始就确定了吗?确定自己能处理好这些?
不,再说一次,当我们开始的时候,即便我在理智上意识到如果我们真的成功了这种情况就会发生,但在那之前我并没有在情感上真正去面对它。
你平时会感到紧张吗?你不会感到紧张,我曾在某处读到过。
我以前也曾感到紧张。我觉得现在的局势已经变得太疯狂了,以至于我的激活能非常高。
那现在你还会感到紧张吗,还是说完全不会了?
会,只是这种情况很少见。
就像是,那个触发的阈值很高。不错。那再多跟我说说,你会在什么时候感到紧张,又在什么时候不会呢?
我记得上一次有这种感觉,是在我们准备发布 Navier Stokes 研究成果的时候。我当时就想,这简直太疯狂了,这可是动真格的。
这就像是,一些最艰巨、最困难、人们力所能及的事情。
现在亲眼见证了,我当时就觉得,这真是一个疯狂的时刻。在那件事上我确实感到很紧张,那大概是最后一次让我感到心跳加速的事情了。
你会做些什么来让自己恢复正常吗?有什么方法吗?
我过去经常冥想,有一段时间每天大概花几个小时,但现在不这样了。不过如果我感到紧张,我可以很快地重新进入那种状态。
是像这样很快地回到那种状态吗?还是说你有什么仪式,或者呼吸法之类的做法?
没有,我依然可以很快地坐下来,闭上眼睛,进入冥想状态。
是几分钟还是几秒钟?
很多个几秒钟吧,差不多。
行,不错,有意思。那么,你的哪个版本已经消亡了?就像你刚开始时是怎样的人,而现在又变成了怎样的人?
我那时无忧无虑得多。
就像我们刚开始创业时一样,当时我的生活非常轻松。
我有很多爱好,比如在某个周二的晚上,朋友临时约我吃饭,我随时都有空。而现在,我的时间被安排得极其精确,我已经很久没有做过任何随性的事情了,这非常令人难过。
那么,有没有哪一个瞬间让你觉得“我再也无法无忧无虑了”,你是如何意识到这一点的呢?
换个角度问,人们经常会问我“你对过去的生活有何感想”,上次有人这样问我时,我意识到我真正怀念的是周六下午坐在咖啡馆里,面前放着一大杯美味的咖啡,对着笔记本电脑,看着周围的世界,慢慢处理邮件,但更多时候只是漫无目的地浏览网页。我已经好几年没有这样做了,我不知道为什么这件事会成为我最怀念的瞬间,但我确实很怀念。
很有趣。你是说你现在做不到那样了吗?
我确实可以去,但会有两名安保人员坐在我旁边的桌子上,我就不再是那个在人群中默默无闻的普通人。
护城河与成功准则:超越平庸的复利
好的。回到创业公司和我们之前提到的那些人,还有我们错过的那个 YC 讨论帖。在 YC 时,你曾写道你过去常问别人,一家公司未来如何才能发展成垄断企业。你过去为何会问这个问题?仅仅是为了创业?
我想我们通常会问,护城河是什么?或者是竞争优势是什么?这些担忧表达的是同一个意思,即如何避免所有利润空间在竞争中被压缩至零。
但当你谈论构建护城河以最终形成垄断时,这是一个重要的问题吗?
我认为当你刚开始创业时,你并不知道。我不认为这是最重要的问题。不,我本来想说,我认为它不像我们问的其他问题那么重要。它不是第一个,也不是唯一的问题,甚至排不到前几个。我总是先从最基础的开始,比如产品是什么,为什么用户需要它,以及如何获得更多用户。所以这确实是战略的一个要素,但我认为它绝对不是最重要的。
好的。但是,比方说当公司达到一定规模之后,这会是一个重要的问题吗?
是的。我认为“你的长期竞争优势是什么”这一类问题很重要,但它不是最顶尖、最重要的问题。
以此类推。那么,你过去常常接触成千上万家公司,而且你也拥有令人瞩目的投资生涯。你选择了像 Reddit、Stripe 这样的一批公司。在和一位创始人交谈 30 到 40 分钟后,你能否判断出这个人是否有能力创立一家公司?
不能说百分之百准确,但我想你可以拥有相当强的直觉。
那是什么样的直觉?告诉你看到了什么?你理解到了什么?你看到了什么样的模式?
有很多显而易见的事情我可以说,所以我尽量说一些我认为不太常被提及的。如果他们表达清晰,能真正把事情解释得很透彻且易于理解,这是我非常看重的一点。
如果我在会议结束时确信自己想与他们共事,这就是我非常看重的一点,因为你要知道,研究型创始人的大部分工作,就是要以各种方式成为传道者,无论是面对其他创始人,还是面对试图招聘的人才,还有面对投资者。所以我看重的是他们是否能迅速提出新想法并对现有想法进行改进,如果他们能对这个世界提出一些我从未听过且深思熟虑的新见解,那也是一个重要加分项,类似这样的事情很有趣。但即便考虑了所有这些,还有一点是许多创业者都会谈到的,那就是痛苦承受力。
你能判断这一点吗?
我认为在 30 分钟的会议中直接判断这一点很难。你可以询问对方,我过去有时会这样做,比如询问他们过往经历中能体现这一点的素材。但我认为很难判断那种内心对话,你只能依靠他们讲述的故事来判断。
这仅仅是……当你听到有人讲述自己承受了某种程度的痛苦时,你能判断出他们是在撒谎、还是在说真话吗?这就是我想表达的意思,我觉得这很难。那么你呢?你认为自己身上有什么特质,能让你承受 99% 的人都无法忍受的痛苦?
我不认为这是我相对于我所见过的其他创始人而言最大的优势,但我确实非常愿意坚持自己所信仰的事物,并持续前进。
你刚才脑海中想到的是哪位创始人?
我并没有想到具体的人。
你刚才那么说,是因为你认识什么特别能忍受痛苦、能够一直坚持下去的人吗?
我这里没有一个现成的具体名字,但多年来,我确实对许多 YC 创始人的表现印象深刻,即便在几乎看不到成功迹象且资源匮乏的情况下,他们依然能够咬牙坚持下去。
在他们所有人之间是否存在某种共同模式?Stripe、Reddit,除了他们善于沟通之外?
我认为这些都是许多创始人共有的特质,但很少有特质可以说是在所有人身上都绝对存在的。YC 的一大深刻教训在于,创始人获得巨大成功的方式多种多样,类型也各不相同。
那么,你从他们身上看到了什么共性呢?
确实可以列举一些特质,比如必须要有动力、聪明、善于沟通,而且你必须拥有一个真正愿意投入其中的想法。我认为我们可以列出一长串创始人特质,也可以列出一长串优秀的商业特质。
但一个有趣的观察点——也是我认为证明成功路径为何如此多元的有力证据——是如果你选取 YC 前 10 名的公司,并认定这 10 位都是伟大的创始人,这 10 家公司显然也都是伟大的企业,然后我将创始人与公司的对应关系打乱。
让谁去经营哪家公司,结果都会是一场灾难。
我认为从这个观察中可以得出很多结论。其中之一就是,作为创始人获得成功的方式多种多样,并不存在一种适用于所有情况和所有公司的单一模式。
那么,是否存在一种会导致灾难的单一模式是普遍存在的呢?假设没有所谓的伟大创始人公式。
但确实有很多事情会导致灾难。缺乏动力、缺乏专注、缺乏清晰度、缺乏愿景,以及缺乏那种能够笑着反复解决难题的能力。所有这些都是反模式,是的。所以,有很多因素几乎可以确定是失败的预兆。但这部分相对容易,成功的方法有很多种,各不相同。
你刚才说第一点是缺乏动力,也就是雄心。很多人都在谈论这个。你能够训练或教导某人,让某人变得更有雄心吗?
我认为可以。这是我在 YC 最令人愉快的惊喜之一,我认为 YC 为世界创造的价值远超人们的认知,因为有些东西或许无法通过训练习得,但你可以教导人们变得更有雄心。虽然并非每个人都能做到,也很难预测谁能够实现,但这绝对是可能发生的。
怎么教呢?
我发现最成功的方法是结合两点:一是通过一个正在经历相同过程的同侪群体;二是通过让人们经历难度不断增加的挑战,使他们意识到自己能做到的远比想象中多,从而培养更好的直觉并坚持下去。
那么你在 YC 的同侪群体中时,也变得像现在这样有野心了吗?
我想是这样的。
还是说你之前就很有野心?
不,我觉得我的野心在之后增强了许多。
你认为这种野心是源于看到周围每个人都充满抱负而产生的自信,还是源于某种不安全感?
Paul Graham 曾说,Demo Day 即将来临的压力以及人们不愿失败的心态在其中发挥了作用,我认为这算是一种不安全感。但我认为更多还是源于一种兴奋感,以及置身于这群做着非凡事业的人身边所带来的正面推动力。
你会想,我们都是一起加入这里的。
如果他们能做到,我也可以。所以对你来说,这更多是自信。
我想是的。我真的、真的、真的认为,如果你不断迎接难度稍大一点、再大一点的挑战,并且不断在这些挑战中取得优异表现,那么通过这种学习方式,你确实能建立起相当多的连续性自信。
有意思。那么,让你变成这样的人,仅仅是因为你所处的同伴圈子吗?
你指的是什么?
比如,是否只有那些同样有野心的人才会给你带来这些东西?
不,我认为你可以通过很多方式获得,但我认为作为人类,我们天生就是通过周围的人来学习的。有一句名言是这样的:你会成为你最好的五个朋友的平均值,所以你最好慎重选择那五个人。
你相信这句话吗?
不完全相信,但显然它有一定的道理。
作为创始人,你收到过的最糟糕的建议是什么?
几乎所有的建议都很糟糕,我不知道该怎么选出最糟糕的一条。但我给创始人的元建议是:少听点建议。
少听点建议。会不会在某个时候回到家,然后想:嘿,也许所有这些建议都是对的,而我错了?
我认为 YC 或许能从所有这些令人难以置信的丰富经验中,提炼出五到十条非常重要、极具信服力的通用建议。而且我认为你应该听那五到十件事。我认为 YC 的口号或者模式,无论人们想要什么,就像是初创公司建议的唯一准则一样——如果说早期初创公司有什么必须遵守的一件事的话。
除此之外还有另一系列同样重要的事情,但你不会因为去听第 800 个关于如何创业的播客就能成为伟大的创始人;你必须亲自动手去尝试,在实践中摸索。你需要的大多数建议都非常针对你的具体案例,以至于除了那些公理般的真理外,再多听一个播客也学不到太多东西了。
有意思。但是,你写过一篇文章,叫《通往成功的 13 条准则》。
我记得我写过那个。
我不记得具体内容是什么了。
而且我敢说,我现在能做出一个更好的版本,我现在能做出一个更精简的版本。
好的。那么,如果不是 13,会是什么呢?
我认为关于复利这一观点,就是我最初提到的那个,我认为这一点很可能被低估了。
我认为很多人并没有驱动自己去持续取得进步。
对此有个笑话是这样的:我确信你有 20 年的工作经验,但其实你只是把同一年的经验重复了 20 次。而在职业生涯中,我认为最棒的一点在于,你可以在每一个后续阶段的基础上进行积累,但你必须不断鞭策自己,并坚持去做那些令人不适且非显而易见的新事物。很多人在职业生涯的早期阶段就没能坚持下来。因此,从经验上来看,大多数人并未能保持在复利指数曲线上持续前行。我认为这是一条非常好的、并不显而易见的建议。
未来的治理:进步速度与科学发现
你最近在做的事情中,哪一件最让你感到不适?
现在大多数事情都让人感觉像是全新的。弄清楚我们该如何应对当前关于技术进步节奏的争论,是一件很难拿捏但又非常重要的事情,真的很难,也很新鲜。
你采取了什么措施来确保自己能做出正确的判断?有什么具体的方法吗?
花大量时间思考,与人交流,并尝试引入更多的数据和新观点。
你会不会有时回家后会想,也许我在这个问题上是错的?
会的,当然。我认为如果我不这么想,那将是灾难性的。关于信念和自我信任等话题,我们谈论过很多,我认为有些人将此理解为不要进行反思,就像对确定的事情保持笃定,而不去质疑它。而我总是尝试质疑一切。我依然努力在找到改变主意的理由之前,行事保持一致并充满信念,但我认为这一点非常重要。
给我举个例子,你是怎么做到的?
我的流程通常就是不断思考同一个问题。从各个不同的角度进行审视,抛出许多糟糕的想法,试着在脑海中将其拆解或寻找其中的问题,然后向他人征求意见,获取更多反馈,尝试不同的版本,并再次进行调整。我认为这就像一个迭代的过程。
请给我举个例子。比如你,或者说,你目前面临的重大问题是什么?然后你会从不同的角度进行审视,接着去咨询他人。
我认为我刚才提出的那个问题就是,当我们进入 RSI 时代时,该如何看待进步的速度?我们该如何避免事态向两个极端的错误方向发展,即失控事件或权力集中事件?什么样的治理机制才是正确的?比如,我们该如何考量 AI 系统相对于人类而言应该被允许具备多高的智能?这种智能提升的速度有多快?我们该如何思考关于安全、监控和对齐的问题,以及在哪些方面我们可以承担风险,而在哪些方面不能?
当你回到家时,这些想法会改变吗?因为当你回到家,看到你的孩子和家人时,你会不会从不同的视角去思考?
当我和孩子们在一起时,我尽量专注于陪伴他们,努力做一个最好的父亲,并尽量不让自己分心去思考那些事情或其他琐事。
但注意到一个很大的区别,比如周末早晨我在家办公和在办公室办公时的情况。至少对我而言,我深信找到一种节奏非常重要,即能够与人进行高强度的互动协作,随后又能拥有大段的时间屏蔽外界干扰,专注于独立思考与工作。这种来回切换的节奏对我的个人风格至关重要。
你可以轻松做到这一点,或者必须经历艰难的磨练才能学会?
这就是最适合我的方式,这非常自然且轻松。
就像彻底关机并隔绝外界一样,完全沉浸在自己的世界里。
这完全是一种不同的工作方式。比如我在家里的办公室办公时,那是一种非常独立的工作风格。如果我只采取这种方式,那将是一场灾难。但如果我没有这种独立工作的机会,而是在办公室里整天忙于开会,那对我来说也行不通。所以我需要这种来回切换的状态。
很有意思。当我问你关于家庭的问题时,因为你曾提到这是你内心的恐惧,即未来可能会向两个截然不同的方向发展。当你离开后,无法再引导或保护你的孩子及家人时,你是否能坦然接受你的孩子在一个由你今天正在参与构建的 AI 驱动的世界中成长?
我想,正如我之前所说,事情可能会以各种方式出现偏差。所以我不知道未来会是什么样子,但我确信,我深信人们有能力去适应、去发展,并让社会变得对我们所有人更好。我认为世界很可能会持续变得更好。
太棒了。那么,这是我问每个人的最后两个问题。你接下来最想打造的非凡事物是什么?
我脑海中立刻浮现出的想法是,我非常期待看到我们能将 AI 推向多远,以发现新的科学。数学方面的成果令我感到相当惊叹,这真的让我觉得,我们离实现这一里程碑比我预期的要更近了。
但是,如果有一台机器能够帮助我们更好地理解世界、发掘物理学中最深奥的洞见、找到新的医疗方法和新能源,以及那些我认为我们现在甚至无法想象、但更深刻的科学理解将使之成为可能的事物,我非常期待我们去构建那台机器。
我一直深感,世界的进步在很大程度上归功于科学理解的提升。
我认为我们现在真正能够利用 AI 来加速这一进程,这将给人类带来变革性的影响。
而这正是他们想要构建的东西。那么,成为 Sam Altman 的代价是什么?成为这个可能正在塑造人类最重要技术的人。
这很难回答,因为从主观上讲,这就是我现在的生活。我刚才提到了那个琐事示例,说我周末不能去咖啡馆工作。但我感到非常幸运能从事这一切,尽管这很累、很有压力,而且很多人的焦虑会投射到我身上,还有所有这些生活上的权衡,但这已是我所知道的一切,其他一切都成了遥远过去的记忆,所以我并没有那种真正的痛苦,觉得现在发生的一切有多可怕,我对它的心态是:公平,很公平。
非常感谢。这真的很好,希望我们以后还能有更多这样的机会。
我也是。非常感谢邀请我参加。
找个时间,我们要深入探讨一下,做一个更长版本的节目。但还是非常感谢你参与这次访谈。谢谢。
最近怎么样?我是 Raj,很高兴见到你。非常感谢你的付出。
我也很高兴见到你,非常感谢你做这件事。你好吗?
这很酷,很好。你喜欢这个配置吗?我从没见过这样的配置。
我确实喜欢这个设置。就模型取得的所有进展而言,这真是一个非凡的时代。你怎么样?
挺好的,目前为止我感觉还不错。有一点紧张,但我相信我能应付。如果你愿意尝试一下,我会很高兴的。
好的,当然可以,太棒了。