打破传统认知,纽约时报专访 Sam Altman:AGI 进程如何正超预期加速?

全文6234字,阅读约需18分钟,帮我划重点

划重点

01OpenAI首席执行官Sam Altman表示,通用人工智能(AGI)的实现可能比大多数人预期的更早,但其影响或许不会如此戏剧性。

02他认为,AGI的到来可能不会改变世界的运作方式,只是经济和技术发展的速度会加快,而超级智能才是我们需要真正担心的。

03此外,Sam Altman表示,OpenAI正努力转型为营利公司,以支持更大的研究和开发项目。

04同时,他呼吁制定新的经济模式来保护创作者的利益,如通过小额支付系统。

05最后,他谈到了作为父母的心情,认为人类深层的驱动力是如此强大,进化是缓慢的。

以上内容由腾讯混元大模型生成,仅供参考

(关注公众号并设为🌟标,获取最新人工智能资讯和产品)

在纽约时报“2024 DealBook ”峰会的聚光灯下,OpenAI 首席执行官 Sam Altman 展现出了一位科技领袖少有的坦诚与远见。作为估值高达 1,570 亿美元的 AI 巨头掌舵人,他不仅带领团队在短短两年内将 ChatGPT 推向全球主流,更重要的是,他为我们描绘了一幅有别于传统想象的人工智能未来图景。

"AGI 的到来可能比大多数人预期的更早,但其影响或许不会如此戏剧性,"Altman 在与主持人 Andrew Ross Sorkin 的对话中表示。这个观点颇具启发性——它挑战了我们对人工智能发展的固有认知。在他看来,通用人工智能(AGI)的实现并非终点,而是一个重要的里程碑,真正需要关注的是通往超级智能的漫长征程。

Altman 的观点体现出罕见的平衡感。一方面,他承认技术变革将带来经济调整期,这个过程可能会比预期更具挑战性;另一方面,他对人类适应能力保持乐观,认为我们终将找到新的价值创造方式。这种既直面现实又充满希望的态度,为当前热议的 AI 发展注入了一剂理性的清醒剂。推动全球 AI 革命的背景下,Altman 的发言格外引人深思。他提醒我们,技术发展的真正挑战不在于速度,而在于如何确保其发展轨迹始终服务于人类福祉。

这种思考方式,或许正是引领我们迈向 AI 新纪元的重要指南针。

文字整理

主持人: 主持人:Sam 在这里。非常感谢你,Sam。

Sam Altman: 谢谢你邀请我。

1、ChatGPT首次发布

主持人: 让我们回到两年前几乎是同一个时间点,你们发布了 ChatGPT。我认为可以公平地说,从那时起,这项技术彻底改变了全球对话方式,影响了几乎每一个行业。筹资重点和资源流动也随之变化,甚至其他科技公司也改变了运营方式。诉讼也随之而来。那么,带我们回到两年前,当你按下按钮的那一刻,你预期会发生什么?

Sam Altman: 抽象地说,我们一直知道会有某个时刻,世界将从“不理解”变成“理解”,突然之间,人们意识到这项技术真的起作用了。我们当时对语言模型的潜力非常有信心,觉得它们会带来很多有用的功能。不过,为什么这一切会在 ChatGPT 发布时发生,而不是在 GPT-3 或 GPT-4 推出时?我们有一些理论,但最终认为那个时刻是某种巧合。

主持人: 所以两年过去了,现在你刚刚提到从现在起的几千天内,我们有可能拥有超级智能。两年前,你也持这样的看法吗?

Sam Altman: 是的,两年前我们已经意识到,人工智能的发展曲线非常陡峭。我们相信深度学习是人类发现的令人难以置信的新工具,它有可能彻底改变世界。尽管仍有大量工作需要完成,但我们对这个方向的潜力充满信心。

主持人: 你提到未来的重大变化,比如 AI 代理的能力。具体来说,代理系统会在明年带来什么样的颠覆?

Sam Altman: 代理是每个人都在谈论的主题。想象一下,一个 AI 系统可以完成一个复杂任务,就像一个非常聪明的人需要用一段时间才能完成的事情。这不仅是一项技术上的突破,还可能重塑许多行业。

主持人: 最近几周关于“人工智能扩展定律”的讨论很多。有人说这种扩展正在放缓,而你则发推文说“没有遇到墙”。你怎么看待这些争议?

Sam Altman: 我认为扩展没有放缓。相反,我们在计算、数据和算法三个方面都取得了进展。尤其是算法进步,例如变压器模型,它们带来了巨大的效益。我们现在正处于一个军备竞赛的阶段,特别是在计算能力和资金筹措方面。

主持人: 你提到 OpenAI 和微软的合作关系。最近有报道称你们可能存在分歧,这是真的吗?

Sam Altman: 我不认为我们正在“分道扬镳”。虽然我们之间确实存在一些挑战,但总体而言,这种合作是积极的,对双方都非常有益。

2、OpenAI和微软特殊关系

主持人: 从长远来看,你认为 OpenAI 是否需要拥有自己的处理能力,而不是依赖其他公司?

Sam Altman: 不会。实际上,我的意思是,我们需要确保我们能够获得足够的、可靠的计算能力来支持我们的需求。这是有原因的,尤其是对于我们希望构建的一些高风险、高回报的创新想法。但我们并不需要让 OpenAI 成为擅长构建计算机和大规模数据中心的公司。

主持人: 那为什么这样认为呢?

Sam Altman: 这可能与我的成长经历有关。我是作为那一代初创公司创始人之一成长起来的,那时每家公司都必须构建自己的硬件,管理自己的托管服务器和数据中心。这是必须做的事情。但 AWS 的出现改变了一切。从那以后,我一直认为,专注于研究和产品开发,而不是分散精力去做自己不擅长的事情,是更好的选择。当然,如果某天我们必须自己建造东西,或者垂直整合变得更加重要,我们也可以适应。

主持人: 你的意思是,能够专注于研究和产品开发是 OpenAI 的优势?

Sam Altman: 是的,能够专注于我们擅长的事情非常重要,这让我们可以更好地推动创新。

主持人:  但这种模式是否也带来了一些挑战,比如与合作伙伴的关系?

Sam Altman: 这确实创造了一种“朋友也是竞争对手”的关系。例如,我们与微软合作,他们在 CoPilot 中使用我们的技术。同时,Apple 也在使用我们的产品,而我们也有自己的产品版本进行商业化销售。这样的多方关系确实会有利益冲突的可能。

主持人:   最近有报道称,OpenAI 内部对使用微软的一些服务感到不满。你怎么看?

Sam Altman: 确实,在某些时候,计算资源的紧缺曾是一个真正的挑战。我们的产品扩展速度非常快,仅两年时间,我们的业务从几乎没有增长到每周超过 3 亿活跃用户。用户每天通过 ChatGPT 发送超过 10 亿条消息,与此同时,我们还有庞大的开发者社区。这样的增长确实在商业史上很少见,因此紧张关系也难以避免。但我从未听说有人对使用微软服务感到不满。

主持人: 所以你认为与微软的合作总体上是积极的?

Sam Altman: 总体来说,我认为我们的合作关系是非常积极的。当然,这并不意味着没有挑战。但总体上,我们的利益是一致的,尽管有时可能会感到紧张。

3、AGI到来

主持人: 你多次提到通用人工智能(AGI)的目标,这是否是 OpenAI 和微软合作协议的一部分?

Sam Altman: 是的,我们的目标是将 AGI 作为里程碑。我们也留了一些灵活性,因为我们无法预见未来的所有可能。但我猜测,我们实现 AGI 的时间会比大多数人想象的更早,而其影响可能也不会像人们担心的那样大。

主持人: 你认为 AGI 到来的那一刻会带来什么变化?

Sam Altman:实际上,许多关于安全性的担忧并不会在 AGI 出现时发生。AGI 的实现可能不会改变世界的运作方式,只是经济和技术发展的速度会加快。从 AGI 到超级智能还有很长的路要走,而超级智能才是我们需要真正担心的。

主持人: 你在过去几年里经常警告我们应该对这些技术感到紧张。现在你怎么看?

Sam Altman: 即使在 AGI 阶段,也有一些值得关注的事情。我预计经济上的混乱可能会比人们想象的持续更长时间,社会的惯性可能会延迟某些变化的发生。但我并不认为这会导致没有工作,我们总会找到新的事情做。

主持人: 那你对超级智能阶段是否乐观?

Sam Altman: 我是一个乐观主义者,我相信研究人员会找到解决问题的方法。深度学习作为一种科学工具,已经展现出了解决复杂问题的潜力。我们需要继续努力,确保技术的发展对社会有益。

4、竞争对手马斯克

主持人: 未来,人们将无法想象这些设备、他们使用的产品和服务并不是真正智能的。然而,很多公司却想称自己为人工智能公司或人工智能产品。从某种意义上说,人工智能本身的推理引擎性质将变得商品化。你怎么看待这种现象?

Sam Altman: 我认为,这很好。科学应该在整个社会中传播。这也是为什么我们专注于构建像 ChatGPT 这样的产品。

主持人: 那么,另一个与埃隆相关的问题。你现在正朝着将营利性业务纳入 OpenAI 的方向迈进,而它目前是一个非营利组织。众所周知,埃隆正在就此事以及许多其他事情对你们提起诉讼。我想从个人层面上问问你,抛开案件本身的是非曲直,作为一个和他一起度过很多时间、共同创办了 OpenAI 的人,你今天对这一切有何感受?

Sam Altman:说实话,这让我感到非常悲伤。我和埃隆一起长大,他是我心中的超级英雄。我认为他为世界所做的事情是绝对不可思议的。当然,我现在对他的感觉有所不同,但我依然很高兴他的存在。这不仅仅是因为我认为他的公司很棒,我确实这么认为,更是因为他在很多人,包括我在内,尚未大胆思考时推动了我们更加雄心勃勃地去设想未来。我感激这一点。我们一起创办了 OpenAI,但后来,他对 OpenAI 完全失去了信心,决定走自己的路。这也没什么不好。但我认为埃隆是一个建设者,他真的想成为那样的人。我只是希望,如果他对我们有任何竞争,他能通过市场和技术而非法律诉讼来实现。

主持人: 你觉得他是个竞争对手,而不是敌人?

Sam Altman: 我相信他本质上是个竞争对手。他的诉讼让我感到难过,但我仍然尊重他的成就。

主持人: 最近,《华尔街日报》上有一篇文章提到,包括您和杰夫·贝佐斯在内的一些人可能担心埃隆的影响力,不仅是他在技术领域的影响力,还包括他与当选总统的密切关系。对此,你怎么看?

Sam Altman: 其实我并不担心。我非常坚信埃隆会做正确的事情。利用政治权力来打压竞争对手并为自己的企业谋利,这样的行为非常不符合美国价值观。我相信埃隆不会这么做。这会严重违背他珍视的价值观,所以我对此并不担忧。

主持人: 好的,最后一个相关问题。他声称你们现在太大了,没有竞争,还试图通过阻止潜在的资助者来阻止竞争的发生,比如同时资助 XAI 或其他竞争对手。对此您有什么回应?

Sam Altman: 这不正确。我们所采取的是非常标准的行业做法。如果你投资我们,同时也投资我们的竞争对手,这完全可以。但我们会终止您对我们研究路线图的知情权。这是我们规模的公司中非常标准的做法,大家普遍觉得这很合理。如果他们想投资竞争对手,那就去投资吧。

5、OpenAI转型为营利公司

主持人:  谢谢你的澄清。接下来我想问您一些关于公司技术发展的问题。你确实最初将 OpenAI 作为一个非营利组织开始,它当时是一个研究机构。现在,有一种观点认为它必须转变为某种以利润为导向的公司。你认为这是必要的吗?

Sam Altman: 首先,我喜欢回顾我们作为非营利组织开始的原因,因为这在某种程度上说明了答案。当我们开始时,我们完全不知道我们会成为一家产品公司,也不知道我们需要的资金量会如此巨大。如果我们当时知道这些事情,我们可能会选择不同的结构。

主持人: 当时的情况是怎样的?

Sam Altman: 很难夸大 2016 年与现在的差异。那是在我们进行语言模型研究之前的几年。距离我们推出第一个产品已有四年半时间,距离推出 ChatGPT 还有六年半。我们当时只知道,我们希望做一些人工智能研究,因为我们认为 AGI(通用人工智能)和超级智能最终会对世界产生深远影响。我们想做一些对世界有益的事情。

主持人:  当时并没有明确的商业化计划吗?

Sam Altman: 是的。当时我们主要在写论文、研究新的强化学习算法、新理论,以及开发像玩电子游戏和机械手这样的技术。而且不清楚是否会有产品或收入来源,也不清楚我们是否需要这些收入,因为当时也不清楚需要这么多资金。

主持人: 那什么时候意识到需要改变方向?

Sam Altman: 在 GPT-1 和其他一些工作之后,我们意识到需要更大的扩展。这时,埃隆决定停止资助我们作为非营利组织,我们也无法找到其他资助人来支持这个规模的项目。于是我们必须找到一种方式,来赚取有限的利润。

主持人: 所以这就是为什么引入“有限利润”的模式?

Sam Altman: 是的,我们希望继续坚持一些非营利组织的优点。所以我们对子公司的利润设定了上限,这在一段时间内发挥了作用。从某种意义上说,现在仍有一定作用,但也对非营利组织的理论,以及我们下一阶段需要的资本量提出了严峻的考验。因此,我们正在研究一些变化,但还没有做出最终决定。董事会正在努力解决这个问题。

主持人: 那非营利组织的结构会消失吗?

Sam Altman: 不会。在任何配置下,我认为非营利组织都不会消失。例如,董事会研究过的一个想法是,让一个非营利组织拥有大量的财富储备,并弄清楚如何将这笔财富用于非营利组织的目的。还有其他的想法也在探讨中。

主持人: 关于你个人,您从未持有 OpenAI 的股权,这一点让我很惊讶。你的工资只有 76,000 美元,对吧?

Sam Altman: 是的,我相信这是对的。

主持人: 如果公司真的迎来了某个重要的里程碑,你是否会想要获得一些股权?

Sam Altman: 有很多媒体对此进行了报道,也有一些投资者对此感到不解。但我并不想要股权。如果我能回到过去,我可能会接受一点点股权,只是为了不必总回答这个问题。

主持人: 为什么会这样想?

Sam Altman: 无论我如何尝试向人们解释,我都有世界上最有趣、最酷的工作。这是我梦想的退休方式——在完成了一个相当不错的职业生涯后,用我的时间做我真正喜欢的事情。人们可以从事类似艺术项目的工作,却不为此获得报酬。没有人认为这奇怪。但在商业环境中,这种选择似乎很少被理解。

主持人: 那如果公司现在价值 1,570 亿美元,你认为对自己来说一个合理的股权比例是多少?

Sam Altman: 再说一遍,我想你可能比我想得更多(笑)。我的工作动力从未来源于持有股权,而是来源于能够推进我们认为对世界有价值的事情。

6、新创作者收益模式

主持人: 我们快没时间了,所以我必须问其他几个简单的问题。首先,在充分披露的情况下,我们应该如何看待这些事情?

Sam Altman: 在你继续之前,我能再说一点吗?我知道时间不多了,但对我来说,从事 AGI 的工作,和世界上最聪明的研究人员一起坐在一个房间里,参与这场疯狂的冒险,这一直是我的梦想。这是我童年的梦想。这对我来说比任何额外的钱都更有价值。

主持人: 很公平,谢谢你的坦诚。接下来一个问题,如果不提到它,那就是我的失职了。《纽约时报》公司最近就内容培训问题对 OpenAI 和微软提起诉讼。这个房间里有很多内容创作者,他们以内容为生。我知道你不能直接谈论诉讼本身,但对于那些书籍、文章、电影或其他作品被用于训练的人,他们应该如何看待这件事?

Sam Altman: 我认为,我们确实需要一项新的协议、标准或规范来确定创作者的权益。虽然我非常相信“学习的权利”或类似的概念——比如说,如果人工智能阅读了一本物理教科书,它可以像人类一样将其用于其他事物——但我也认为,版权法和合理使用的框架仍然需要适用。

主持人: 你是说需要新的经济模式来保护创作者的利益?

Sam Altman: 是的。我认为我们可以探索一些新的方式,比如通过小额支付系统。如果有人生成一个模仿某位作者风格的故事,那位作者可以选择允许使用自己的名字、肖像或风格,并因此获得报酬。合理使用的讨论现在似乎停留在一个错误的层面上。我们需要找到新的经济模式,让创作者获得新的收入来源。

主持人: 那关于《纽约时报》的诉讼呢?

Sam Altman: 我必须说,我认为《纽约时报》在许多方面站在了历史的错误一边。当然,我们会在法庭上解决这些问题。

主持人: 期待见到你们的辩论。最后一个问题,与技术无关,但也许有点关系。明年你即将迎来人生中一个令人激动的时刻——你要有孩子了。对于所有正在思考人工智能如何影响我们生活的父母来说,你会告诉他们什么?特别是当机器能够做一些我们无法做到的事情时,我们应该如何看待它?它会如何影响我们的尊严?

Sam Altman:对我来说,准备迎接孩子这件事让我觉得,AGI 突然变得不那么重要了。尽管我对 AGI 的兴奋程度很高,但孩子对我的意义更大。这让我更清楚地认识到什么才是真正重要的事情。

每一次重大技术变革都会引发类似的对话,比如工业革命、计算机革命。人们总是在问:这意味着什么?但就人类的意义而言,答案往往是:没什么。这些技术改变了经济,改变了人们工作的类型,但最终,人们更关心的是他们的孩子,而不是技术或 AGI。人类深层的驱动力是如此强大,进化是缓慢的。所以我的孩子们将在一个超级不同的世界中长大,但从某种意义上说,一切也会保持不变。

主持人: 谢谢你,Sam Altman。这是一场非常精彩的对话。

Sam Altman: 谢谢你!

【往期回顾】


💡 看到很多读者在问"如何开始AI转型",我们建了个实战派AI团队(成员来自复旦、浙大、华为、阿里等),专注帮企业做"轻量级"AI落地:

  • 🎯 公司该从哪个环节开始用AI?

  • 🛠️ 具体怎么落地才不会踩坑?

  • 💰 投入产出比怎么才最大?

我们团队专注企业AI解决方案

业务流程AI优化提升运营效率降低人力成本定制AI应用开发场景化解决方案快速交付落地AI转型咨询规划专业评估诊断精准转型方案

联系负责人:Milo-1101(仅限企业客户)

原视频链接:https://www.youtube.com/watch?v=tn0XpTAD_8Q&t=15s&ab_channel=NewYorkTimesEvents

素材来源官方媒体/网络新闻