（关注公众号并设为🌟标，获取最新人工智能资讯和产品）
当人们向我提问人工智能时，他们的疑惑往往可以归结为两个核心问题：我们究竟应该担心些什么，又应该担心到何种程度？过去一年，我的回答都是：去读读 Mustafa Suleyman 的《The Coming Wave》（浪潮将至）。这本书是我关于人工智能领域推荐次数最多的作品，无论是国家领导人、商界领袖，还是其他好奇者。这本书的独特之处在于，它以清晰的视角同时展现了未来的巨大机遇和真实的潜在风险。
Mustafa Suleyman 的经历让他对这一主题有着独一无二的视角。他曾协助将 DeepMind 从一家初创公司发展成过去十年中最重要的人工智能公司之一，随后又创立了 Inflection AI，如今领导微软的人工智能部门。然而，这本书之所以特别，不仅在于 Mustafa 的经历，更在于他对科学历史的深刻洞察以及对技术革命发展的透彻理解。他是一位严谨的思想者，能够从几百年的科学进程中提炼出有价值的启示。
关于《The Coming Wave》的报道大多聚焦于它对人工智能的讨论——这很自然，毕竟这是 AI 领域最重要的书籍之一。而 Mustafa 无疑是最有资格撰写这本书的人之一。早在 2016 年，当 DeepMind 的 AlphaGo 击败围棋界顶级高手时，他就在见证这一时刻。围棋的复杂性远超国际象棋，背后有 2500 年的战略积淀，而 AlphaGo 的一些走法甚至超越了人类的想象。通过这次胜利，AI 证明了机器可以在我们的领域超越我们——这也让 Mustafa 提前窥见了未来的端倪。
不过，《The Coming Wave》与其他书籍不同之处在于，Mustafa 提醒我们：人工智能只是多项科学突破融合浪潮中的一部分。基因编辑、DNA 合成等生物技术的飞速进步也在同步进行。正如书名所言，这些变革正如远海的巨浪，虽未被大多数人察觉，却在不断积蓄能量。单项技术的影响已经足以改变格局，而当它们结合在一起时，将重塑社会的方方面面。
历史学家 Yuval Noah Harari 曾提出，人类应该在开发先进人工智能之前，先学会合作并建立信任。从理论上讲，我完全赞同他的观点。如果我有一个神奇按钮，能让技术进步暂缓 30 到 40 年，为人类争取时间解决信任和共同目标的问题，我大概会毫不犹豫地按下这个按钮。但现实是，这个按钮并不存在。这些技术的出现并不会因为任何个人或企业的选择而停下脚步。
事实上，技术发展正以更快的速度向前推进——一方面是因为成本不断下降和计算能力持续提升，另一方面是因为利润和权力的驱动。国家之间在竞争，企业彼此较量，个人也在争取荣耀与领导地位。这些力量让技术进步势不可挡，同时也加剧了对其进行控制的难度。
在谈论人工智能时，我通常会提到需要关注的三大主要风险。第一是经济变革的加速带来的冲击。人工智能可能彻底改变工作的性质，影响几乎所有行业的就业，包括那些传统上免受自动化威胁的白领岗位。第二是所谓的“控制问题”，即如何确保随着人工智能变得更先进，它始终与人类的价值观和利益保持一致。第三则是“不良行为者”的问题：一旦人工智能落入别有用心的人手中，他们可能用它发动网络攻击、制造生物武器，甚至威胁国家安全。
正是这种赋予不良行为者能力的风险，凸显了我们这一时代的最大挑战：如何“遏制”这些技术？如何在充分利用人工智能和生物技术带来的益处的同时，最大限度地减少它们的危险？这也是《The Coming Wave》讨论的核心议题，因为遏制是所有其他问题的前提。如果无法解决遏制问题，人工智能和生物技术的风险将会更加严重。而一旦优先解决这一点，我们就能为应对其他挑战奠定必要的稳定与信任基础。
当然，这说起来容易，做起来却难。
过去，像核武器这样的变革性技术，可以通过严密的物理防护和访问控制加以遏制，而人工智能和生物技术却构成了全然不同的挑战。这些技术不仅获取成本越来越低，而且开发过程几乎无法被外界侦测或监控，可以在简单的条件下秘密进行。如果试图全面禁止这类技术，无异于让“正义一方”主动放弃防卫，而“恶意行为者”却继续推进。这不仅不公平，还会让所有人受害，因为这些技术天生具有双重用途：同样的工具既能用来制造生物武器，也能用来攻克疾病；能被用于网络攻击的人工智能，也可以用来强化网络防御。
那么，在这种情况下，我们该如何实现对这些技术的有效遏制？指望 Mustafa 一个人解决人类历史上最复杂的问题显然不切实际。但他在书中提出了一个与挑战相匹配的宏大计划——从技术手段（例如为人工智能系统设计紧急关机机制）到制度改革，包括推动新的全球条约、更新监管框架，以及促成政府、企业与科学界之间的前所未有的合作。当你读完他的建议清单时，或许会怀疑这些目标是否能及时实现。但正因为如此，这本书显得尤为重要：它提醒我们在还有行动时间时认识到问题的紧迫性。
作为一名长期的乐观主义者，阅读《The Coming Wave》并没有改变我的信念。我依然相信，人工智能和生物技术的进步将为人类带来巨大的福祉，例如攻克致命疾病、解决气候危机，以及实现普及高质量教育的愿景。但真正的乐观主义并非盲目的信心，而是清楚地看见机遇与风险并存，然后采取行动，争取朝着更美好的方向发展。
无论你是一名技术爱好者、一位政策制定者，还是仅仅想了解未来世界走向的普通读者，都值得一读这本书。它不会给你现成的答案，但会启发你思考正确的问题，并让你更有准备地迎接即将到来的巨浪，而不是被其席卷而去。