What I’m Hearing in China This Week About Our Shared Future

VCG/ Getty Images

2025年3月25日  

“一个震撼世界的事件即将来临——通用人工智能（A.G.I.）的诞生。美国和中国是两个正在接近A.G.I.的超级大国——这些系统将和最聪明的人类一样聪明，甚至更聪明，并且能够自主学习和行动。不管你们认为自己会被历史如何评判，我向你们保证，是否合作建立一个全球信任和治理架构来管理这些新兴的超智能计算机，让人类从中获益最大并缓冲其最坏影响，将是首要标准。”  

我知道，在华盛顿新政府引发的所有动荡中，许多人会认为这是白费口舌，但这不会阻止我尽可能大声地表达这个观点。因为自1970年代以来，苏美核军备控制对世界稳定的意义，就如同美中在人工智能合作以确保我们有效控制这些迅速发展的A.I.系统对未来世界稳定的意义一样。  

人工智能系统和人形机器人为人类提供了巨大的潜在利益，但如果没有植入正确的价值观和控制，它们可能具有极大的破坏性和不稳定性。此外，这个新时代必须通过大量规划来定义人类将从事什么工作，以及当机器能在许多方面比人类做得更好时，如何保持人类从工作中获得的尊严。数百万人可能同时失去工作和尊严，这是导致混乱的处方。  

一位资深经济学家向我明确表示，中国非常清楚这些风险：“有了人工智能，很多人可能永远找不到工作。如果他们找不到合适的工作会怎样”，因为“70%的岗位都是机器人？那将是非常危险的。”  

我们没有时间可以浪费去思考如何适应，然而我们对于信号和警告却如此短视。十年后，记者们会说2024年秋天最重要但未受到足够关注、具有深远后果的新闻是什么？  

他们会说是2024年11月唐纳德·特朗普第二次当选总统吗？还是会说是2024年9月优步决定超越其在凤凰城的试点项目，开始在奥斯汀和亚特兰大的叫车应用程序上提供无人驾驶、全电动Waymo汽车——取代人类优步司机。  

此时此刻，我会投票给优步的无人驾驶。  

他们会说是11月的特朗普当选吗？还是会说是《华尔街日报》报道的2024年12月在乌克兰哈尔科夫附近雪林中的战斗，乌克兰部队用四轮机器人无人机攻击俄罗斯碉堡——一些装有机枪或装满炸药，并由空中无人机支援——进行了一次“协调的无人”陆空袭击，“规模前所未有，标志着战争的新篇章，人类在战场前线，至少在开局阶段，基本被移除。”  

我会选择全机器人无人类的乌克兰空陆袭击。  

再来一个怎么样——这是我脑海中的想法，因为我正在中国参加一个会议：他们会说是2024年11月的特朗普当选，还是会说是今年中国电视转播的农历新年晚会，超过10亿人观看，特色是“16个人形机器人”登台演出。《麻省理工科技评论》报道说，“它们穿着鲜艳的花卉印花夹克，参与了一场标志性的舞蹈，与人类舞者一起整齐地挥舞红色手帕。”在日常工作中，这些机器人负责组装电动汽车。跳舞只是它们的爱好。  

我能理解人形机器人舞者的理由。  

这三个例子都反映了现在日益增长的共识，正如《纽约时报》科技作家凯文·鲁斯最近观察到的，全面的A.G.I.来得比大多数人想象的要快——“很快——可能在2026年或2027年，但可能早在今年。”  

A.G.I.是人工智能的圣杯——单一系统可以像最聪明的人类一样掌握数学、物理、生物、化学、材料科学、莎士比亚、诗歌和文学，同时还能跨越所有这些领域进行推理，看到任何人类通才都无法看到的联系。  

正如微软前首席研究和战略官克雷格·蒙迪对我说的那样：可能在特朗普总统任期结束前，我们不仅会诞生一种新的计算机工具；“我们将诞生一个新物种——超智能机器。”  

“我们的物种是基于碳的。这个新的物种是基于硅的，”蒙迪解释说。“因此，我们需要立即开始规划与这个新的超智能物种共存的道路，并最终与之共同进化。”  

我们人类长期以来与地球上的许多其他物种共存，“但我们总是比它们都聪明，”他补充说。“很快，将会有一个比我们更聪明且不断变聪明的新物种。我们正在扩展地球上最高智力水平——从人类能够想象并编程到计算机中的东西，扩展到计算机能够自己学习的东西，这几乎是无限的。”  

中国在过去一年在人工智能方面取得的进展已经非常清楚地表明，北京和华盛顿现在是世界上两个人工智能超级大国。  

如果你认为不是这样，中国领导人在中国发展论坛开幕——这次活动吸引我来到北京——时自豪地提到，中国最近推出的DeepSeek人工智能系统“横空出世”，凸显了“中国人民巨大的创新和创造力”。  

除此之外，他还说，“2025年可能是中国大规模生产人形机器人的年份。”摩根士丹利的一份近期报告描述了中国在人形机器人行业中对西方的主导地位，控制着大多数顶级上市企业。这些是注入人工智能的机器人，它们的移动和说话方式惊人地像人类。  

在这些A.G.I.系统扎根并扩大规模之前，我们需要这两个超级大国认真制定一个监管和技术框架，确保达成一致，为这些系统注入某种道德推理和嵌入式使用控制，以防止它们被恶意行为者用于全球破坏性活动或自行失控。我们需要一个治理系统，确保人工智能系统始终按照人类和机器福祉的标准运行并自我监管。  

没有北京，这件事无法完成。所以猜猜谁会来共进晚餐。现在是两人桌。

尽管如此，在这次会议上聆听中国专家和官员的意见，我感觉到中国人很像美国人：仍在试图理解这些新人工智能系统将带来什么新能力。他们在希望全力确保自己的公司在与美国公司的A.I.竞赛中获胜——以便主导市场——和希望确保这些技术不会破坏自己国家之间左右为难。  

我对美中关系今日的信任水平毫不天真——过去一周我在这两个首都都待过——我可以证明这种不信任已经超乎寻常。所以我完全清楚，呼吁他们彼此信任以合作建立一个道德推理系统，确保我们获得人工智能的最佳效果并缓冲其最坏影响，听起来多么荒谬。  

但我们的领导人应该从软件技术公司如何使用“竞合”（竞争者之间的合作）中吸取教训。苹果、微软、谷歌和Meta都想在商业上摧毁彼此，但它们最终意识到，如果它们在一些基本标准上合作，而不是各自为政，它们可以极大地扩展各自独立产品和服务的市场。  

一旦A.G.I.到来，如果我们不能确保这些系统嵌入共同的信任标准，美国和中国将无法一起做任何事情。双方都不会信任对方出口或进口的任何东西，因为人工智能将存在于所有数字化和连接的事物中。那是你的车、你的手表、你的烤面包机、你喜欢的椅子、你的植入物、你的记事本。所以如果我们和中国之间没有信任，我们各自拥有自己的人工智能系统，那将是TikTok问题的超级放大版。很多贸易将直接停滞。我们只能互相卖大豆做酱油。那将是一个高科技封建主义的世界。  

以色列历史学家尤瓦尔·诺亚·哈拉里在论坛上关于人工智能的会议上对几乎全是华人的满场观众发表演讲时，他的表达让我印象深刻。  

“在我们开发真正的超智能A.I.代理之前，我们应该在人类之间建立更多信任，”哈拉里说。“但我们现在做的恰恰相反。全世界范围内，人类之间的信任正在崩溃。太多国家认为强大就是不信任任何人，完全与他人分离。如果我们忘记了我们共同的人类遗产，与外界所有人失去信任，那将使我们轻易成为失控人工智能的猎物。”  

他补充说，人类一起可以控制人工智能，“但如果我们互相争斗，人工智能将控制我们。”