1.Sam Altman认为智能的奇点已经不远，AI正在悄然融入生活的每一个角落，如提高科学家效率、AI写作、诊断和创业等。
2.他大胆畅想了未来的机遇和挑战，提醒我们变革已经在你我身边悄悄上演，人类距离创造出超级智能的人工智能已经非常近了。
3.AI将以各种方式改变世界，尤其是让科学进步和生产力提升变得更快，提高我们的生活质量。
4.然而，我们也需要面对AI的安全问题，如技术和社会上的挑战，以及如何让超级智能变得便宜、普及，不能被某个人、公司或国家垄断。
5.Altman希望人类能顺利、平稳、持续地迈向超级智能的未来，为世界打造“大脑”。
以上内容由腾讯混元大模型生成，仅供参考
橘子的推荐语：“奇点”听起来总像科幻片里的遥远未来，但 Sam Altman 认为这并不遥远。他用极具画面感的语言，带我们窥见超级智能悄然融入生活的每一个角落：从AI让科学家效率翻倍，到我们习惯了AI写作、诊断甚至创业。Altman还大胆畅想了未来的机遇和挑战，提醒我们——这场变革，已经在你我身边悄悄上演。
我们已经迈过了技术的“临界点”，变革的起飞已经开始。人类距离创造出超级智能的人工智能已经非常近了，不过到目前为止，这一切并没有我们原本想象的那么奇怪。
现在，街头还没有机器人随处可见，我们大多数人也还没整天和AI聊天。人们还是会生病、死亡，太空旅行依然不容易，宇宙里还有太多我们不懂的东西。
但其实，我们最近已经造出在很多方面比人类还聪明的AI系统，可以大大提升人们的工作效率。最难的部分已经过去，像GPT-4和o3这样的AI背后的科学突破非常不容易，但这些成果会让我们走得更远。
AI会以各种方式改变世界，尤其是让科学进步和生产力提升变得更快，这会让我们的生活质量大幅提高，未来会比现在好很多。科学进步其实是推动人类进步的最大动力，想想我们还能取得多少新成就，真的很让人期待。
从某种角度说，ChatGPT已经比历史上任何一个人都更强大了。每天有数亿人在用它，完成越来越重要的任务。AI哪怕多了一点小能力，都能带来巨大的正面影响；但如果AI有一点小问题，影响到这么多人，也可能带来很大的麻烦。
2025年，我们已经有了能做“脑力工作”的AI助手，比如写代码再也不会像以前那样了。2026年，可能会出现能自己发现新想法的AI。2027年，也许会有能在现实世界里干活的机器人。
以后会有更多人能写程序、做艺术创作。但世界对这些东西的需求也会更大。只要专家们愿意用新工具，他们还是会比新手厉害得多。总体来说，2030年一个人能完成的事情，跟2020年相比会有天壤之别，很多人会学会如何利用这一点让自己受益。
最重要的是，2030年代在很多方面其实不会变得特别陌生。人们还是会爱家人、发挥创造力、玩游戏、在湖里游泳。
但在另一些很重要的方面，2030年代又会和以前完全不同。我们还不知道AI能变得比人类聪明多少，但很快就会知道了。
到2030年代，聪明才智和能源——也就是好点子和实现点子的能力——会变得非常丰富。这两样东西其实一直限制着人类的进步。如果有了充足的智能和能源（加上好的管理），理论上我们就什么都能实现。
现在我们已经习惯了和强大的数字智能一起生活。最开始大家还会感到震撼，但很快就觉得理所当然了。比如，AI能写一段好文章让人惊讶，接着我们就会期待它能写出一本好小说；AI能做出救命的医学诊断让人惊喜，接着我们就会想它什么时候能直接发明新药；AI能写个小程序很厉害，接着我们就希望它能直接创建一家公司。这就是技术变革的节奏：新奇的事情很快就变成了日常。
科学家们已经说，AI让他们的工作效率提高了两三倍。AI的意义很大，其中最特别的一点是：我们可以用AI来研究和改进AI本身。我们或许能发明新型计算机、开发更好的算法，甚至更多我们还没想到的东西。如果一年、甚至一个月就能完成过去十年的研究，那进步的速度当然会完全不同。
从现在开始，我们已经有的AI工具会帮我们获得更多科学发现，帮助我们造出更强大的AI。当然，这还不是AI自己完全自动升级自己，但已经是“自我进化”的雏形了。
还有其他的良性循环在发生。AI带来的经济价值让我们不断加大基础设施建设，来支撑这些越来越强的AI系统。机器人制造机器人（数据中心制造数据中心）其实也快要实现了。
哪怕最开始我们要用传统方式造出第一百万台人形机器人，只要它们能自己搞定供应链——挖矿、炼矿、开卡车、开工厂等等——再去造更多机器人、芯片厂和数据中心，进步的速度就会大大加快。
随着数据中心生产自动化，AI的成本最终会接近电费。（很多人好奇，ChatGPT一次查询大约用0.34瓦时的电，相当于烤箱一秒多的用电，或者高效灯泡用几分钟的电。用水也很少，大概只有十五分之一茶匙。）
科技进步会越来越快，而人类的适应能力也很强。会有挑战，比如有些职业会消失，但另一方面，世界会变得更富裕，我们也能认真考虑以前想都不敢想的政策。我们可能不会一下子改变社会规则，但回头看几十年后的变化，会发现其实已经很大了。
历史经验告诉我们，我们会很快学会新技能、产生新需求，也能很快接受新工具（比如工业革命之后的职业变化）。大家的期望会提高，但能力也会同步提升，我们的生活会越来越好。我们会为彼此创造更多美好的东西。人类有个AI没有的优势：我们天生在意他人、在意别人的想法和行为，而对机器其实并不关心。
一千年前的农民看到我们现在的工作，可能会觉得我们做的都是“假工作”，只是自娱自乐，因为我们有吃有喝还有各种享受。我希望一千年后的人们看到他们的工作时也会觉得很“假”，但我相信，那些工作对当时的人来说一定很重要、很有成就感。
未来新奇迹出现的速度会非常快。现在我们难以想象2035年会有什么新发现。也许某年我们刚刚解决高能物理难题，下一年就开始太空移民；或者某年材料科学有突破，下一年就能实现真正的脑机接口。很多人会继续按自己的方式生活，但也一定有人会选择“接入”到全新的世界。
展望未来，这一切确实让人难以想象。但等真正经历时，可能会觉得虽然厉害，但也能适应。技术进步其实是一条平滑的曲线，向前看总觉得很陡峭，回头看却觉得很平缓。（想想2020年，如果有人说2025年就快有AGI了，肯定觉得很疯狂，但这五年我们真的走了很远。）
当然，除了巨大的机遇，还有不少挑战。我们确实需要解决AI的安全问题，无论是技术上还是社会上。但之后，最重要的是要让超级智能变得便宜、普及，不能让某个人、公司或国家垄断。社会有韧性、有创造力、适应也很快。只要我们能集思广益，虽然难免会犯错，但我们会学得很快，能让新技术带来最大好处、最小坏处。给用户足够的自由很重要，但也要有社会共识。世界越早开始讨论这些共识和底线，越好。
整个行业（不仅仅是OpenAI）正在为世界打造“大脑”。这个“大脑”会非常个性化，人人都能用，唯一的限制就是有没有好点子。以前技术圈总是嘲笑“点子王”，就是那些只有想法、找不到团队实现的人。现在看，他们的时代快要来了。
OpenAI现在有很多身份，但首先我们是一家超级智能研究公司。我们还有很多工作要做，但前方的路已经越来越清晰，未知的部分在快速减少。能做这些事，我们感到非常幸运。
“智能便宜到不用计量”已经近在眼前。这听起来也许很疯狂，但如果2020年我们告诉你今天会这样，可能比我们现在对2030年的预测还要难以相信。
愿我们能顺利、平稳、持续地迈向超级智能的未来。
原文：https://blog.samaltman.com/the-gentle-singularity