OpenAI最大对手：AI是时代的恩典！

前哨王煜全

2024-10-13 06:39发布于北京海银资本创始合伙人 科技领域创作者

全文21982字，阅读约需63分钟，帮我划重点

划重点

01人工智能有望在5-10年内治愈或预防大多数精神疾病，提高生活质量。

02人工智能发展将推动神经科学领域的进步，包括疾病治疗、心理健康改善和认知功能提升。

03然而，人工智能发展也可能带来挑战，如不平等、财富分配和选择退出问题。

04为此，人工智能公司和政策制定者需共同努力，确保发展中国家受益，实现全球健康、经济和粮食安全目标。

05另一方面，人工智能在改善和平、民主和自由等方面具有潜力，但实现这些目标仍需人类付出巨大努力。

以上内容由腾讯混元大模型生成，仅供参考

图片

Anthropic，OpenAI前研究负责人Dario Amodei 成立的AI公司。

这几天，Dario发表一篇展望AGI对世界影响的长文，提出AI将把一个世纪的科研进展压缩到5-10年。

图片

原文翻译如下：

《仁慈的机器》Machines ofLoving Grace

人工智能如何让世界变得更美好

2024 年 10 月
我经常琢磨强人工智能的风险。作为Anthropic的CEO，做了大量关于如何降低这些风险的研究。所以，人们有时会觉得我是个悲观派，或者“末日预言者”，认为人工智能带来的大多是坏处或危险。我完全不这么想。其实，我关注风险的主要原因之一是，只有解决了这些风险，才能迎来我认为的，根本上积极的未来。我觉得大多数人低估了人工智能可能带来的巨大好处，就像大多数人低估了风险可能有多糟糕一样。
本文中，我试着描绘一下这种好处可能的样子——如果一切顺利，一个拥有强人工智能的世界会是什么样。当然，没人能确切预知未来，强人工智能的影响可能比过去的技术变革更难预测，所以这一切都不可避免地会包含一些猜测。但我至少的目标是做出有根据的、有用的猜测，即使很多细节最终是错的，也能抓住未来发展的大致方向。我之所以写这么多细节，主要是因为我认为具体的设想比高度回避和抽象的描述更有利于推进讨论。
不过，首先，我想简单解释一下为什么我和 Anthropic 没有过多谈论强人工智能的益处，以及为什么我们总体上可能会继续更多地谈论风险。具体来说，我做出这个选择是出于以下几个考虑：
最大化影响力。人工智能技术的基本发展及其诸多（并非所有）好处似乎是不可避免的（除非风险毁掉一切），而且从根本上是由强大的市场力量驱动的。另一方面，风险不是注定的，我们的行动可以极大地改变风险发生的可能性。
避免被认为是宣传。人工智能公司如果成天鼓吹人工智能的好处，可能会让人觉得像是在做宣传，或者像是在试图掩盖它的缺点。我也认为，原则上，花太多时间“王婆卖瓜，自卖自夸”对你的灵魂不好。
避免自命不凡。我经常很反感一些人工智能风险领域的公众人物（更不用说人工智能公司领导）谈论后 AGI（通用人工智能）世界的方式，好像他们的使命是像先知引导信徒走向救赎一样，单枪匹马地创造未来。我认为把公司视为单方面塑造世界的力量是危险的，把实际的技术目标用近乎宗教的口吻来描述也是危险的。
避免“科幻”色彩。虽然我觉得大多数人低估了强人工智能的优势，但确实讨论过激进人工智能未来的人，通常会用一种过于“科幻”的口吻 (比如，上传意识、太空探索，或者一股赛博朋克风)。我觉得这会导致人们不把这些说法当回事，觉得它们不切实际。说白了，问题不在于这些技术是否可能或大概率会实现（正文会详细讨论这一点）——更多的是这种“氛围”暗藏着许多文化包袱和未说明的假设，比如什么样的未来才是好的，各种社会问题会如何发展等等。最终往往会读起来像是一小撮亚文化群体的幻想，而让大多数人感到反感。
尽管有以上顾虑，但我真的觉得我们有必要讨论一下，一个拥有强人工智能的美好世界应该是什么样，同时要尽力避免以上那些问题。其实，我觉得拥有一幅真正鼓舞人心的未来图景至关重要，而不仅仅是一个应对危机的方案。强人工智能的很多影响确实具有对抗性或危险性，但归根结底，我们必须有为之奋斗的目标，有一些能让每个人都过得更好的双赢结果，有一些能团结大家，让人们放下争吵，共同应对未来挑战的东西。恐惧是一种动力，但这还不够：我们还需要希望。
强人工智能的积极应用清单很长（包括机器人、制造业、能源等等），但我准备重点讨论几个在我看来最有可能直接改善人类生活质量的领域。我最感兴趣的五个方向是：


1.生物学和身体健康

2.神经科学和心理健康

3.经济发展和扶贫

4.和平与治理


5.工作和意义
我的预测用大多数标准来看（科幻“奇点”之类的设想除外），都会显得比较激进，但我表达得很认真、很真诚。我说的每一点都可能出错（再说一遍我之前的观点），但我至少尝试用对各个领域发展速度以及实际意义的分析评估作为基础。我很幸运在生物学和神经科学领域都有专业经验，在经济发展领域也算是个比较资深的爱好者，但我肯定还是会犯很多错误。写这篇文章让我意识到，找一帮各领域的专家（生物学、经济学、国际关系等等）一起合作，写一个比我写得更好、更专业的版本会很有价值。最好把我的这篇文章看作是这个团队的初步构思。
基本假设和框架
为了让整篇文章更准确、更扎实，我们需要明确“强人工智能”（也就是 5-10 年倒计时开始的节点）指的是什么，以及建立一个思考这种人工智能出现后的影响的框架。
强人工智能（我不喜欢 AGI这个词）会是什么样子，以及它什么时候（或者是否）会出现，这本身就是一个很大的话题。我之前公开讨论过这个问题，也可以专门写一篇文章（我以后可能会写）。显然，很多人怀疑强人工智能能不能很快造出来，有些人甚至怀疑它能不能造出来。我觉得它最早 2026 年就能出现，当然也可能会晚很多。但就本文而言，我想先把这些问题放一边，假设它很快就会出现，重点讨论它出现之后 5-10 年会发生什么。我还想预设一下这种人工智能系统的样子、它的能力以及它的交互方式，即使在这个问题上存在分歧。
我说的强人工智能，是指一种人工智能模型——形式上可能类似于现在的大型语言模型（LLM），虽然它可能基于不同的架构，可能包含几个相互作用的模型，训练方式也可能不一样——它有以下几个特点：
单从智力来看，它在大多数相关领域——生物学、编程、数学、工程、写作等等——都比诺贝尔奖得主聪明。这意味着它可以证明未解决的数学定理，写出特别优秀的小说，从零开始写复杂的代码，等等。
它不只是一个“能跟你聊天的聪明东西”，它还拥有所有人类在虚拟世界工作时能用的“交互方式”，包括文字、音频、视频、鼠标键盘控制，以及上网。它可以进行任何这种交互方式支持的操作、沟通或者远程操控，包括在网上做事，给人下指令或者接受指令，订购材料，指导实验，看视频，制作视频，等等。它完成所有这些任务的水平，都远超世界顶尖的人类。
它不只是被动地回答问题；它可以被分配需要几个小时、几天甚至几周才能完成的任务，然后像一个聪明的员工一样独立完成这些任务，需要的时候还会问问题。
它没有实体（除了在电脑屏幕上），但它可以通过电脑控制现有的实体工具、机器人或者实验室设备；理论上，它甚至可以给自己设计机器人或设备来用。
训练这个模型用的资源，可以用来运行它的数百万个副本（这跟预计到 2027 年的集群规模差不多），这个模型吸收信息和做出行动的速度大概是人类的 10 到 100 倍。不过，它可能会受到物理世界或者它交互的软件的响应速度的限制。
这数百万个副本，每一个都能独立处理不相关的任务，或者需要的话，也可以像人类合作一样一起工作，也许不同的副本组经过微调，会特别擅长某些特定任务。
我们可以把它想象成“数据中心里的天才团队”。
显然，这样的东西能很快解决非常难的问题，但它究竟能多快，也不容易搞清楚。两个“极端”的观点，在我看来都是错的。首先，你可能会觉得世界会在几秒钟或几天内天翻地覆（“奇点”），因为超级智能会自我迭代，几乎立刻解决所有科学、工程和操作上的问题。问题是，现实的物理和实践限制是存在的，比如制造硬件或做生物实验。即使是一个天才团队，也会碰到这些限制。智能可能很厉害，但它不是灵丹妙药。
其次，你可能会觉得技术进步已经饱和了，或者受现实世界数据或社会因素的限制，超过人类的智能几乎没啥用。这在我看来也站不住脚——我能想到成百上千的科学甚至社会问题，如果有一大群真正聪明的人，就能大大加快解决问题的速度，尤其当他们不局限于分析，还能在现实世界里搞事情的时候（我们设想的天才团队就能做到，包括指导或协助人类团队）。
我觉得真相可能是这两种极端情况的混合体，会根据任务和领域的不同而变化，而且细节会很复杂。我觉得我们需要新的框架，才能有效地思考这些细节。
经济学家经常说“生产要素”：比如劳动力、土地和资本。“劳动力/土地/资本的边际回报”这个说法指的是，在特定情况下，某个要素可能是也可能不是限制因素——比如，空军需要飞机和飞行员，如果你没飞机，招更多飞行员也没多大用。我觉得在人工智能时代，我们应该讨论智能的额外收益，并弄清楚哪些其他因素能跟智能互补，哪些因素会在智能很高的时候成为瓶颈。我们不习惯这么想问题——问“更聪明对这个任务有多大帮助，在什么时间尺度上有帮助？”——但这似乎才是思考强人工智能世界的好方法。
我猜想，限制智能或者与智能互补的因素包括：
外部世界的速度。智能体需要在现实世界中互动才能做事情，也需要学习。但现实世界就那么快。细胞和动物的运行速度是固定的，所以对它们做实验需要一定的时间，这可能是没法压缩的。硬件、材料科学、任何需要跟人打交道的事情，甚至我们现在的软件系统，都是这样。而且，科学上的很多实验经常需要按顺序来，后面的实验要参考前面的结果。所有这些都意味着，即使智能不断提高，完成一个大项目（比如研发一种治癌症的药）的速度也可能有个最低限度，没法再快了。
数据需求。有时候就是缺原始数据，这种情况下再智能也没用。现在的粒子物理学家很聪明，提出了很多理论，但因为粒子加速器的数据太少，他们没法判断哪个理论更好。就算他们超级智能，也不一定能做得更好——除了也许能加快建一个更大的加速器。
内在的复杂性。有些事情天生就很难预测，或者很混乱，即使是最强的人工智能，也无法比现在的人或电脑预测得更好，或者更好地解决这些问题。比如，即使是特别强大的人工智能，在一般情况下，预测混沌系统（比如三体问题）的未来，也只能比现在的人和电脑稍微远一点点，因为在混沌系统中，一点小错会随着时间推移呈指数级放大，所以即使算力大大提高，预测的范围也改进不了多少，实际操作中，测量误差还会让预测更不准。
人类的限制。很多事情不做不行，但做了就会违法、伤人，或者扰乱社会。一个对齐的人工智能不会想做这些事（如果我们面对的是一个不对齐的人工智能，那我们又回到讨论风险上了）。人类社会的很多结构效率低下，甚至有害，但很难改变，因为要遵守各种限制，比如临床试验的法律要求，人们愿不愿意改变习惯，或者政府的行为。有很多技术上的进步本身没问题，但因为法规或者不必要的担心，最后效果大打折扣，比如核能、超音速飞行，甚至电梯。
物理定律。这是第一点的加强版。有些物理定律似乎是不可打破的。你没法超过光速。布丁搅拌开了就回不去。芯片上每平方厘米的晶体管数量有限制，太多了就会不稳定。计算需要消耗能量，这限制了世界上的计算密度。
还有一个基于时间尺度的区别。短期内很难改变的事情，长期来看，智能也许能找到解决办法。比如，智能可以用来开发新的实验方法，让我们不用做活体动物实验就能在体外研究一些东西，或者用来制造收集新数据需要的工具（比如更大的粒子加速器），或者在道德范围内，找到绕过人类限制的方法（比如改进临床试验系统，创建新的、临床试验手续更少的司法管辖区，或者改进科学本身，让人体临床试验变得不那么必要或者更便宜）。
所以，我们可以想象这样一种情况：智能一开始会受到其他生产要素的严重限制，但随着时间的推移，智能本身会逐渐绕过这些限制，即使这些限制永远不会完全消失（有些东西，比如物理定律，是绝对的）。关键问题是，这一切发生的速度有多快，以及按什么顺序发生。
记住以上框架，我会试着针对引言中提到的五个领域来回答这个问题。
1. 生物学和健康
生物学可能是科学进步最有可能直接、明确地改善人类生活质量的领域。上个世纪，一些最古老的人类疾病（比如天花）终于被消灭了，但还有很多疾病依然存在，战胜它们将是一项巨大的人道主义成就。除了治愈疾病，生物科学原则上还可以提高人类健康水平，延长健康的寿命，让我们更好地控制自己的生理过程，解决那些我们现在认为是人类无法避免的日常问题。
用前面提到的“限制因素”的说法，把智能直接用在生物学上的主要挑战是数据、物理世界的速度和内在的复杂性（其实，这三者是相互关联的）。在临床试验阶段，还会受到人类的限制。我们来一个个说。
在细胞、动物、甚至化学过程中做实验，会受到物理世界速度的限制：很多生物实验需要培养细菌或其他细胞，或者通过设置特定的条件来触发化学反应。这有时需要几天甚至几周，而且好像没有明显的办法可以加快。动物实验可能要几个月（甚至更久），人体实验通常要好几年（长期跟踪研究甚至要几十年）。跟这有点关系的是，数据经常不够——不是数量不够，而是质量不够：我们总是缺清晰、明确的数据，能把我们感兴趣的生物效应从其他同时发生的成千上万个干扰因素中分离出来，或者能对某个过程进行因果干预，或者能直接测量某种效应（而不是用间接或有噪音的方式推断它的结果）。即使是像我研究质谱技术时收集的蛋白质组学数据这样的大量定量分子数据，也有噪音，而且会遗漏很多信息（这些蛋白质在哪些类型的细胞里？在细胞的哪个部位？在细胞周期的哪个阶段？）。
导致这些数据问题的原因之一是内在的复杂性：如果你看过人类新陈代谢的生物化学图，就知道很难分离出这个复杂系统中任何一个部分的影响，更难用精确或可预测的方式干预这个系统。最后，除了在人身上做实验本身需要的时间，真正的临床试验还有很多繁琐的手续和监管要求，在我和很多人看来，这些都增加了不必要的时间，拖慢了进度。
考虑到这些，很多生物学家一直以来都怀疑人工智能和“大数据”在生物学中的价值。过去 30 年，不少数学家、计算机科学家和物理学家把他们的技能用在了生物学上，也取得了相当大的成功，但并没有像一开始希望的那样带来翻天覆地的变化。像 AlphaFold（它的开发者刚得了诺贝尔化学奖，实至名归）和 AlphaProteo这样的重大突破减少了一些怀疑，但人们仍然觉得，人工智能只在少数情况下有用。一个常见的说法是“人工智能可以更好地分析你的数据，但它不能凭空变出更多数据，也不能提高数据的质量。垃圾进，垃圾出”。
但我觉得这种悲观的看法是看待人工智能的方式不对。如果我们关于人工智能发展的核心假设是对的，那么看待人工智能的正确方式不应该是把它仅仅当作数据分析的工具，而应该把它看作一个虚拟的生物学家，它能完成生物学家做的所有工作，包括设计和进行现实世界的实验（通过控制实验室机器人，或者像课题组长指导研究生一样告诉人类做什么实验），发明新的生物学方法或测量技术，等等。人工智能能真正加速生物学发展，靠的是加快整个研究过程。我想强调这一点，因为这是我在谈论人工智能改造生物学的能力时，遇到的最常见的误解：我不是说人工智能仅仅是用来分析数据的工具。按照本文开头对强人工智能的定义，我指的是用人工智能来执行、指导和改进生物学家做的几乎所有事情。
为了更具体地说明我认为加速可能来自哪里，生物学的进步中有很大一部分来自极少数的发现，通常都跟通用的测量工具或技术有关，这些工具或技术能对生物系统进行精确的、通用的或可编程的干预。每年大概有 1 个这样的重大发现，它们可以说推动了生物学 50% 以上的进步。这些发现之所以这么厉害，正是因为它们解决了内在的复杂性和数据限制，直接增加了我们对生物过程的理解和控制。过去几十年里的几次发现，不仅让我们对生物学有了很多基础的科学理解，也催生了很多强大的医疗手段。
一些例子包括：
CRISPR：一种可以在活的生物体内编辑任何基因的技术（用任何基因序列替换任何其他基因序列）。自从这项技术发明以来，人们一直在改进它，让它可以靶向特定类型的细胞，提高准确性，减少编辑错误基因——所有这些都是为了能安全地用在人身上。
各种用来在精确水平上观察生物过程的显微镜：先进的光学显微镜（用各种荧光技术、特殊的光学元件等等），电子显微镜，原子力显微镜等等。
基因组测序和合成，它们的成本在过去几十年里下降了好几个数量级。
光遗传学技术，可以让你通过照光让神经元放电。
mRNA 疫苗，原则上，我们可以设计针对任何东西的疫苗，然后快速调整它（mRNA 疫苗在新冠疫情期间出了名）。
细胞疗法，比如 CAR-T，可以让免疫细胞从身体里取出来，“重新编程”让它们攻击任何目标。
一些概念上的洞见，比如疾病的细菌理论，或者发现免疫系统和癌症之间的联系。
我不厌其烦地列出所有这些技术，是因为我想强调一个关键点：如果有很多更有才华、更有创造力的研究人员，这些发现的速度可以提高 10 倍，甚至更多。换句话说，我认为智能对这些发现的回报很高，生物学和医学的其他进展基本都建立在这些发现之上。
为什么我这么认为？因为我们可以问一些问题，这些问题的答案可以帮助我们判断“智能的回报”。首先，这些发现通常是少数几个研究人员做出的，而且经常是同一批人反复做出重大发现，这说明是靠能力，而不是靠碰运气（如果是碰运气，那冗长的实验才是限制因素）。其次，它们经常“本来可以”比实际出现的时间早很多年：比如，CRISPR 是细菌免疫系统里天然就有的成分，80 年代人们就知道了，但又过了 25 年，才有人意识到它可以用来做基因编辑。它们还经常因为科学界不支持有前景的方向而被耽误很多年（可以看看 mRNA 疫苗发明者的故事；类似的故事很多）。第三，成功的项目经常是白手起家，或者一开始不被看好，而不是那种砸了很多钱的项目。这说明，推动发现的不仅仅是大量的资源，还有 ingenuity（独创性/创造力）。
最后，虽然有些发现有“先后顺序”（你需要先做出发现 A，才有工具或知识去做发现 B）——这又可能会造成实验上的延误——但很多发现，也许是大多数发现，是相互独立的，这意味着可以同时进行很多研究。这些事实，加上我作为生物学家的经验，让我强烈地感觉到，如果科学家们更聪明，更善于把人类掌握的海量生物学知识联系起来，那么还有几百个这样的发现等着我们去做（想想 CRISPR 的例子）。AlphaFold/AlphaProteo 成功地解决了人类几十年来用精心设计的物理模型都解决不了的重要问题（虽然只是在一个很小的领域里用了很窄的工具），这提供了一个很好的例证，指明了前进的方向。
所以，我猜测强人工智能至少可以让这些发现的速度提高 10 倍，让我们在 5-10 年内取得相当于未来 50-100 年的生物学进展。为什么不是 100 倍呢？也许有可能，但这里“先后顺序”和实验时间就很重要了：想在 1 年内取得 100 年的进展，需要很多事情都一次做对，包括动物实验，还有设计显微镜或者昂贵的实验设备之类的事情。我其实不排除我们可以在 5-10 年内取得相当于 1000 年的进展（虽然听起来有点荒谬），但我觉得 1 年内取得 100 年的进展不太可能。换句话说，我觉得有些延迟是不可避免的：实验和硬件设计需要一定的时间，也需要进行一定次数的迭代，才能学到那些光靠逻辑推理得不到的东西。不过，也许可以在这基础上实现大规模并行。
临床试验呢？虽然临床试验有很多官僚主义的麻烦，速度也很慢，但其实很多（虽然不是全部！）的缓慢最终是因为需要严格评估那些疗效不明显，或者效果模棱两可的药物。可悲的是，现在大多数疗法都是这样：平均来说，癌症药物只能延长几个月的寿命，而且还有明显的副作用，需要仔细测量（治疗阿尔茨海默病的药也差不多）。这就导致了大规模的研究（为了保证统计功效），以及难以权衡的利弊，监管机构通常也不擅长做决定，原因还是官僚主义和各种利益冲突。
如果某种药真的有效，那审批速度就会快很多：有快速审批通道，而且疗效越显著，就越容易获批。新冠 mRNA 疫苗 9 个月就获批了——比通常快得多。不过，就算这样，临床试验还是太慢了——新冠 mRNA 疫苗应该 2 个月左右就能获批。但这种程度的延迟（一种新药从头到尾大概 1 年）加上大规模并行研究，以及少量迭代（“试几次”）的需求，跟 5-10 年内发生彻底变革的可能性并不冲突。更乐观地看，人工智能驱动的生物科学也许可以通过开发更好的动物和细胞实验模型（甚至模拟），更准确地预测药物在人体内的效果，从而减少临床试验的迭代次数。这在研发抗衰老药物方面尤其重要，因为衰老是一个持续几十年的过程，我们需要更快的迭代周期。
最后，关于临床试验和社会障碍，值得特别指出的是，跟其他一些技术相比，生物医学创新在成功应用方面其实有很好的记录。正如引言中提到的，很多技术本身没问题，但却受社会因素的阻碍。这似乎对人工智能能做到什么，给出了一种悲观的看法。但生物医学的独特之处在于，虽然研发药物的过程过于繁琐，但一旦研发出来，通常都能成功应用。
总的来说，我预测人工智能驱动的生物学和医学能把人类生物学家在未来 50-100 年内取得的进展压缩到 5-10 年内。我把它叫做“压缩的 21 世纪”：意思就是说，强人工智能发展出来之后，我们将在短短几年内取得生物学和医学领域整个 21 世纪的进展。
虽然预测强人工智能在几年内能做什么，本质上还是很难的，有很多猜测的成分，但问“如果没有人工智能，人类在未来 100 年能取得哪些进展？”这个问题，还是有一些实际意义的。简单回顾一下我们在 20 世纪取得的成就，或者根据 21 世纪的头 20 年推断一下，或者想想“10 个 CRISPR 和 50 个 CAR-T”能带来什么，都能帮助我们实际地、有根据地估计强人工智能可能带来的进步。
下面我试着列出一些我们可能看到的进展。这不是基于什么严格的方法，肯定会有细节上的错误，但它想表达的是，我们应该对这种彻底的变革做好心理准备：
可靠地预防和治疗几乎所有自然传染病。考虑到 20 世纪在对抗传染病方面取得的巨大进步，想象一下，在“压缩的 21 世纪”，我们差不多可以“完成这项工作”，这并不夸张。mRNA 疫苗和类似的技术已经指明了“万能疫苗”的方向。传染病是否能从世界上彻底消失（而不是只在某些地方消失），取决于贫困和不平等的问题，这会在第 3 节讨论。
消除大多数癌症。过去几十年，癌症死亡率一直在以每年 2% 左右的速度下降；所以，按照人类科学现在的发展速度，我们有望在本世纪消除大多数癌症。有些类型的癌症已经基本被治愈了（比如用 CAR-T 疗法治疗某些类型的白血病），我对一些非常有选择性的药物更感兴趣，这些药可以在癌症早期就进行靶向治疗，防止它生长。人工智能还能让我们根据每个癌症患者的基因组，制定非常精细的治疗方案——现在也能做到，但需要大量的时间和人力，人工智能可以帮我们扩大规模。死亡率和发病率降低 95% 以上似乎是可能的。不过，癌症的种类很多，适应性也很强，可能是这些疾病中最难彻底消灭的。如果还有一些罕见的、难治的恶性肿瘤，也不奇怪。
非常有效地预防和治疗遗传病。大幅改进的胚胎筛查技术可能会让我们预防大多数遗传病，CRISPR 的一些更安全、更可靠的改进版也许可以治愈现在大多数人的遗传病。不过，影响全身很多细胞的疾病可能是最难治的。
预防阿尔茨海默病。我们一直很难弄清楚阿尔茨海默病的病因（它跟 β-淀粉样蛋白有关，但具体的机制好像很复杂）。这似乎正是那种可以用更好的测量工具（能分离出生物效应的工具）来解决的问题；所以我对人工智能解决这个问题的能力很乐观。一旦我们真的搞清楚了是怎么回事，也许用一些相对简单的干预就能预防它。不过，已经造成的阿尔茨海默病损害可能很难逆转。
改进大多数其他疾病的治疗。这是一个包含其他各种疾病的类别，包括糖尿病、肥胖症、心脏病、自身免疫性疾病等等。大多数这些疾病似乎比癌症和阿尔茨海默病“更容易”解决，很多发病率已经在大幅下降。比如，心脏病死亡人数已经下降了 50% 以上，简单的干预措施，比如 GLP-1 激动剂，已经在对抗肥胖症和糖尿病方面取得了很大进展。
生物自由。过去 70 年，我们在避孕、生育、体重控制等方面取得了进步。但我怀疑人工智能加速的生物学将极大地扩展我们能做的事情：体重、外貌、生育和其他生理过程将完全由人们自己控制。我们把这些叫做生物自由：每个人都应该有权选择自己想成为什么样的人，以自己喜欢的方式生活。当然，全球范围内能否公平获得这些技术，将是一个重要的问题；第 3 节会讨论这个问题。
人类寿命翻倍。这可能听起来很激进，但预期寿命在 20 世纪几乎翻了一番（从 40 岁左右到 75 岁左右），所以“压缩的 21 世纪”再翻一番，达到 150 岁，也是符合“趋势”的。显然，延缓衰老过程本身的干预措施跟上个世纪预防（主要是儿童）疾病导致的过早死亡的干预措施不同，但变化的幅度并不是史无前例的。具体来说，现在已经有药物可以把大鼠的最大寿命延长 25%-50%，而且副作用很小。有些动物（比如某些种类的乌龟）已经能活 200 年了，所以人类显然还没有达到理论上的寿命上限。我猜想，最需要的东西可能是可靠的、不会被古德哈特定律影响的人类衰老生物标志物，因为这可以让实验和临床试验快速迭代。一旦人类寿命达到 150 岁，我们也许就能达到“逃逸速度”，争取到足够的时间，让现在活着的大多数人都能活到他们想活的岁数，当然，这在生物学上是否可行，谁也说不准。
值得好好看看这份清单，想想如果所有这些都在 7-12 年后实现（如果人工智能发展很快的话，这是有可能的），世界会变得多么不同。不用说，这将是难以想象的人道主义胜利，困扰人类几千年的疾病将被一举消除。我的很多朋友和同事都在养育孩子，我希望等他们的孩子长大后，提到疾病，对他们来说就像我们现在提到坏血病、天花或者鼠疫一样。那一代人还将享受到更大的生物自由和自我表达的空间，如果幸运的话，他们也许还能活到他们想活的岁数。
除了少数期待强人工智能出现的人之外，很难高估这些变化会给人们带来的震撼。比如，美国成千上万的经济学家和政策专家现在还在讨论怎么保证社会保障和医疗保险的资金，更广泛地说，怎么控制医疗成本（医疗费用大部分花在 70 岁以上的人身上，尤其是那些得了癌症之类的绝症的人）。如果这些都实现了，这些项目的处境可能会大大改善，因为劳动年龄人口和退休人口的比例将发生巨大变化。毫无疑问，这些挑战会被新的挑战取代，比如怎么保证每个人都能用上新技术，但值得思考的是，即使只有生物学领域被人工智能加速发展，世界也会发生多大的变化。
2. 神经科学和大脑
在上一节，我主要讲了身体疾病和生物学，没有讲神经科学和心理健康。但神经科学是生物学的一个分支，心理健康跟身体健康一样重要。事实上，甚至可以说，心理健康比身体健康对人的幸福感的影响更大。数亿人因为成瘾、抑郁症、精神分裂症、低功能自闭症、创伤后应激障碍、精神病或者智力障碍等问题，生活质量很差。还有几十亿人，每天都要面对各种各样的问题，这些问题其实可以看作是上面提到的那些严重临床疾病的轻微版本。跟生物学一样，除了解决问题，神经科学也许还能提高人类体验的基线水平。
我之前说的生物学框架也适用于神经科学。这个领域是由少数发现推动的，这些发现通常都跟测量或精确干预的工具有关——在之前的列表里，光遗传学就是一项神经科学的发现，最近的 CLARITY 和膨胀显微镜也是同一类型的进步，当然很多细胞生物学的方法也能直接用在神经科学上。基于同样的原因，我认为人工智能也会以类似的方式加速这些技术的进步，所以“5-10 年取得 100 年的进展”这个框架对神经科学也适用。跟生物学一样，20 世纪神经科学也取得了巨大的进步——比如直到 20 世纪 50 年代，我们才明白神经元是怎么放电的，以及为什么放电。所以，期望人工智能加速神经科学的发展，并在几年内取得快速进展，是合理的。
需要补充一点，过去几年我们对人工智能本身的了解（或者正在了解的东西）很可能会促进神经科学的发展，即使神经科学的研究仍然只由人类来做。可解释性就是一个明显的例子：虽然生物神经元和人工神经元运作方式表面上完全不同（它们通过脉冲，通常是脉冲频率来传递信息，所以有一个时间因素是人工神经元没有的，还有一些跟细胞生理学和神经递质相关的细节也会影响它们的工作方式），但“由简单的单元组成的分布式网络，经过训练，执行线性/非线性的组合操作，它们是怎么一起完成复杂计算的？”，这个问题是共通的，我强烈怀疑在大多数关于计算和神经回路的有趣问题中，单个神经元通讯的细节都会被抽象掉。举个例子，最近，人工智能可解释性研究人员在人工智能系统中发现的一种计算机制，在小鼠的大脑中也被发现了。
在人工神经网络上做实验比在真的神经网络上做实验容易得多（后者经常需要切开动物的大脑），所以可解释性很可能成为一种工具，帮助我们更好地理解神经科学。而且，强人工智能本身可能比人类更擅长开发和使用这种工具。
除了可解释性，我们从人工智能中学到的关于如何训练智能系统的方法，应该（虽然我不确定是不是已经）给神经科学带来一场革命。我以前做神经科学研究的时候，很多人都在研究我现在看来是错误的问题，因为当时还没有缩放定律/惨痛教训（scaling hypothesis / bitter lesson）的概念。一个简单的目标函数加上大量的数据就能驱动极其复杂的行为，这个想法让我们更容易理解目标函数和结构偏差，而对那些涌现出来的计算细节的兴趣就减少了。我近年来没有密切关注这个领域，但我感觉计算神经科学家好像还没有完全理解这一点。我对规模化假设的态度一直是“啊哈——从高层次上讲，这就是智能的工作原理，以及为什么它这么容易进化出来”，但我认为这不是大多数神经科学家的看法，部分原因是规模化假设作为“智能的秘密”，在人工智能领域也没有被完全接受。
我认为神经科学家应该把这个基本见解和人脑的特点（生物物理限制、进化史、拓扑结构、运动和感觉输入/输出的细节）结合起来，尝试解开神经科学中的一些关键谜题。有些人可能正在这样做，但我怀疑这还不够，人工智能神经科学家应该能更好地利用这个角度来加速进展。
我希望人工智能能通过四个不同的途径加速神经科学的进步，所有这些途径如果能结合起来，有望治愈精神疾病，改善大脑功能：
传统的分子生物学、化学和遗传学。这跟第 1 节讲的生物学基本一样，人工智能可以通过相同的机制加速它的发展。现在有很多药物可以调节神经递质，改变大脑功能，影响警觉性或感知，改变情绪等等，人工智能可以帮助我们发明更多这样的药物。人工智能也可能加速对精神疾病遗传基础的研究。
精细的神经测量和干预。这是指测量许多单个神经元或神经回路的活动，并干预改变它们的行为。光遗传学和神经探针是可以用来测量和干预活体生物的技术，还有一些非常先进的方法（比如用分子计时器磁带来读取大量单个神经元的放电模式）也已经被提出来，而且原则上似乎是可行的。
高级计算神经科学。如上所述，现代人工智能的具体见解和整体思路，或许可以有效地应用于系统神经科学的问题，包括揭示精神疾病（比如精神错乱或情绪障碍）的真正原因和动态。
行为干预。考虑到本文的重点是神经科学的生物学方面，我之前没有过多地提到它，但精神病学和心理学在 20 世纪当然也发展了很多行为干预的方法；人工智能应该也能加速这些方法的发展，既可以开发新的方法，也可以帮助患者坚持现有的方法。更广泛地说，“人工智能教练”的想法似乎很有前景，它可以一直帮助你成为最好的自己，研究你的互动，帮助你变得更高效。
我猜测，这四种途径如果结合起来，跟治疗身体疾病一样，即使没有人工智能的参与，也有望在未来 100 年内治愈或预防大多数精神疾病——因此，在人工智能的加速下，5-10 年内完成这些目标是合理的。具体来说，我猜测会发生以下这些事情：
大多数精神疾病或许都能被治愈。我不是精神疾病方面的专家（我研究神经科学的时候主要在开发探针，用来研究小群神经元），但我猜测，像 PTSD、抑郁症、精神分裂症、成瘾等等疾病，可以通过结合以上四个方向的方法，弄清楚病因，并进行非常有效的治疗。答案很可能是“生物化学上出了问题”（虽然机制可能很复杂）和“神经网络出了问题（在高层次上）”的某种组合。也就是说，这是一个系统神经科学问题——但这并不意味着前面提到的行为干预就没有作用。测量和干预的工具，尤其是在活人身上使用的工具，似乎可以带来快速的迭代和进步。
那些“结构性”很强的疾病可能更难治，但也不是不可能。有一些证据表明，精神变态跟明显的神经解剖学差异有关——精神变态者的一些脑区就是比正常人小，或者发育不成熟。精神变态者也被认为从小就缺乏同理心；不管他们的大脑有什么不同，可能一直都是这样的。某些智力障碍，以及其他一些疾病，可能也是如此。重塑大脑听起来很难，但这似乎也是一项对智能回报很高的任务。也许有什么方法可以让成年人的大脑回到更早的、可塑性更强的状态，从而可以被重塑。我不确定这有多大可能，但我本能地相信人工智能可以在这方面有所发明。
有效地通过基因手段预防精神疾病似乎是可行的。大多数精神疾病都有一定的遗传性，全基因组关联研究已经开始在识别相关因素方面取得进展，这些因素通常有很多。通过胚胎筛查，很可能可以预防大多数这类疾病，就像预防身体疾病一样。区别在于，精神疾病更有可能是多基因疾病（很多基因共同作用），所以由于复杂性，在不知不觉中筛掉了一些跟疾病相关联的好的性状的风险会增加。不过奇怪的是，近年来 GWAS 研究似乎表明，这些关联性可能被夸大了。无论如何，人工智能加速的神经科学发展或许能帮我们弄清这些事情。当然，对复杂性状进行胚胎筛查会引发一些社会问题，也会有争议，但我猜大多数人会支持筛查严重或致残的精神疾病。
我们通常不认为是临床疾病的日常问题也将得到解决。我们大多数人都有日常的心理问题，这些问题通常不会被认为是临床疾病。有些人容易生气，有些人注意力不集中，或者经常犯困，有些人容易害怕或焦虑，或者对变化适应性差。现在已经有药物可以帮助提高警觉性或注意力（咖啡因、莫达非尼、利他林），但跟其他很多领域一样，未来还会有更多可能。很可能还有更多这样的药物存在，只是还没被发现，也可能出现全新的干预方式，比如靶向光刺激（见上文的光遗传学）或者磁场。考虑到我们在 20 世纪发明了那么多调节认知功能和情绪状态的药物，我对“压缩的 21 世纪”非常乐观，我相信每个人都能让自己的大脑运转得更好一些，拥有更美好的日常体验。
人类的基线体验可以更好。更进一步说，很多人都经历过一些非凡的时刻：顿悟、灵感迸发、同情心泛滥、成就感爆棚、超脱尘世、爱意涌动、感受美，或者在冥想中感到平静。这些体验的性质和频率因人而异，同一个人在不同的时间也会有不同的体验，有时也可以用药物来触发（虽然经常有副作用）。所有这些都表明，“可以体验的范围”非常广阔，也许我们可以让生活中更多的时间都充满这些非凡的时刻。或许也可以全面提高各种认知功能。这可以看作是神经科学版的“生物自由”或“延长寿命”。
科幻小说里经常提到一个话题，但我这里故意没讲，就是“意识上传”，也就是把人脑的模式和动态捕捉下来，然后在软件里运行。这个话题可以单独写一篇文章，但简单来说，虽然我觉得意识上传原则上几乎肯定能实现，但在实践中，即使有强人工智能，它也面临着巨大的技术和社会挑战，可能在我们要讨论的 5-10 年内还实现不了。
总之，人工智能加速发展的神经科学很可能会大大改进精神疾病的治疗方法，甚至治愈大多数精神疾病，并且极大地扩展“认知和精神自由”，以及人类的认知和情感能力。它带来的改变将跟上一节提到的身体健康方面的改进一样，具有根本性。也许世界的外表不会有明显的变化，但人类体验到的世界会变得更好、更人性化，也会提供更多自我实现的机会。我还觉得，改善心理健康可以缓解很多其他社会问题，包括那些看似政治或经济问题的问题。
3. 经济发展与脱贫
前两节讲的是开发新技术来治愈疾病，提高生活质量。但从人道主义的角度来看，一个显而易见的问题是：“所有人都能用上这些技术吗？”
开发出一种疾病的疗法是一回事，把这种疾病从世界上根除是另一回事。更广泛地说，很多现有的健康干预措施还没有在全世界普及，一般来说，（非健康相关的）技术进步也是如此。换句话说，世界上很多地方的生活水平仍然很低：撒哈拉以南非洲的人均 GDP 大概是 2000 美元，而美国大概是 75000 美元。如果人工智能进一步推动了发达世界的经济增长和生活质量的提高，却对发展中国家没什么帮助，那将是一个严重的道德败坏，也是对前两节中真正的人道主义成就的玷污。理想情况下，强人工智能应该帮助发展中国家赶上发达国家，即使它会彻底改变发达国家。
我不像对人工智能发明基础技术那么有信心那样，相信人工智能可以解决不平等和经济增长的问题，因为技术对智能的回报非常明显（包括绕过复杂性和数据缺失的能力），而经济涉及到很多人为的限制，以及很大的内在复杂性。我有点怀疑人工智能能不能解决著名的“社会主义计算问题”，而且我觉得各国政府不会（也不应该）把经济政策交给人工智能来决定，即使它真能做到。还有一些问题，比如怎么才能说服人们接受那些有效的、但他们可能会怀疑的治疗方法。
由于私营部门和公共部门普遍存在的腐败，发展中国家面临的挑战更加复杂。腐败会导致恶性循环：它加剧了贫困，而贫困反过来又滋生了更多腐败。人工智能驱动的经济发展计划需要考虑到腐败、薄弱的制度和其他一些人为的挑战。
尽管如此，我还是有理由保持乐观。疾病已经被根除，很多国家已经从贫穷变成富裕，很明显，要做到这些，做决策的时候，智能的回报很高（尽管有人为的限制和复杂性）。所以，人工智能应该能比我们现在做得更好。也可能有一些针对性的干预措施可以绕过人为的限制，人工智能可以专注于这些干预措施。但更重要的是，我们必须尝试。人工智能公司和发达国家的政策制定者都应该努力，确保发展中国家不被落下；这在道义上是必须的。所以，在本节中，我会继续保持乐观，但要记住，成功不是必然的，它取决于我们共同的努力。
下面我猜测一下，强人工智能发展出来之后的 5-10 年，发展中国家的情况可能会如何变化：
推广健康干预措施。我最乐观的一点也许是把健康干预措施推广到全世界。有些疾病已经被自上而下的运动根除了：天花在 20 世纪 70 年代被彻底消灭了，小儿麻痹症和麦地那龙线虫也几乎被根除了，每年不到 100 例。在疾病根除运动中，复杂的数学流行病学模型发挥了积极作用，比人类更聪明的人工智能系统应该能做得更好。分发药物和疫苗的物流也可以大大优化。我作为 GiveWell 的早期捐赠者了解到，有些健康慈善机构比其他机构的效率高得多；希望人工智能驱动的努力会更高效。此外，一些生物学上的进步实际上简化了分发的物流：比如，疟疾一直很难根除，因为它每次感染都需要治疗；如果有一种疫苗只需要打一次，那物流就会简单得多（事实上，现在就正在开发这种疟疾疫苗）。甚至更简单的分发机制也是可能的：理论上，可以通过消灭传播疾病的动物载体来根除某些疾病，比如释放感染了某种细菌的蚊子（这种细菌可以阻止蚊子传播疾病，然后这些蚊子再去感染其他蚊子），或者直接用基因驱动技术把蚊子消灭掉。这只需要一个或几个中心化的行动，而不是需要协调各方，分别治疗数百万人的运动。总的来说，我认为 5-10 年是一个合理的时间框架，可以让很大一部分（也许是 50%）的人工智能带来的健康益处惠及世界上最贫穷的国家。一个好的目标是，强人工智能出现 5-10 年后，发展中国家的健康状况至少要大幅度好于现在的发达国家，即使它仍然落后于未来的发达国家。当然，要做到这一点，需要在全球卫生、慈善事业、政治宣传和很多其他方面付出巨大的努力，人工智能开发者和政策制定者都应该提供帮助。
经济增长。发展中国家能不能快速赶上发达国家，不仅是在健康方面，而是在经济上全面赶上？这方面有一些先例：20 世纪最后几十年，几个东亚经济体实现了年均 10% 左右的实际 GDP 增长率，成功赶上了发达国家。人类经济规划者做出了这些成功的决策，不是靠直接控制整个经济，而是靠抓住几个关键点（比如出口导向型增长的产业政策，抵制住依赖自然资源的诱惑）；“人工智能财政部长和央行行长”也许可以复制，甚至超越这个 10% 的成就。一个重要的问题是，怎么让发展中国家政府接受它们，同时尊重它们的自主权——有些国家可能会很积极，但有些国家可能会持怀疑态度。乐观地看，前面提到的很多健康干预措施可能会自然而然地促进经济增长：消灭艾滋病/疟疾/寄生虫病会极大地提高生产力，更不用说一些神经科学干预措施（比如改善情绪和注意力）也会给发达国家和发展中国家带来经济效益。最后，跟健康无关的人工智能加速的技术（比如能源技术、运输无人机、改进的建筑材料、更好的物流等等）可能会自然地扩散到全世界；比如，即使是手机，也很快通过市场机制普及到了撒哈拉以南非洲地区，不需要什么慈善事业的帮助。但另一方面，人工智能和自动化虽然有很多潜在的好处，但也给经济发展带来了挑战，尤其对那些还没有工业化的国家来说。怎么才能确保这些国家在自动化程度越来越高的时代仍然能够发展经济、改善民生，是经济学家和政策制定者需要解决的一个重要挑战。总的来说，一个理想的场景——也许是一个值得我们为之奋斗的目标——是发展中国家实现 20% 的年均 GDP 增长率，其中 10% 来自人工智能辅助的经济决策，另外 10% 来自人工智能加速的技术的自然传播，包括但不限于健康技术。如果能做到这一点，5-10 年内，撒哈拉以南非洲的人均 GDP 就能达到现在的中国的水平，而其他很多发展中国家的人均 GDP 甚至会超过现在的美国。再说一遍，这是一个理想的场景，不是必然会发生的：我们需要共同努力，让它更有可能发生。
粮食安全。20 世纪，作物技术的进步，比如更好的化肥和杀虫剂、更多的自动化和更有效的土地利用，大幅度提高了作物产量，让数百万人口免于饥饿。基因工程现在正在进一步改善很多作物。如果能找到更多的方法来提高作物产量——以及提高农业供应链的效率——就能带来人工智能驱动的第二次绿色革命，帮助缩小发展中国家和发达国家之间的差距。
减缓气候变化。发展中国家受气候变化的影响更大，这会阻碍它们的发展。我们可以预期，人工智能会改进那些减缓或阻止气候变化的技术，从大气碳清除和清洁能源技术，到减少我们对高碳排放的工厂化养殖的依赖的实验室人造肉。当然，就像前面说的，限制气候变化进展的不仅仅是技术——跟本文讨论的所有其他问题一样，人类的社会因素也很重要。但我们有充分的理由相信，人工智能增强的研究会给我们提供方法，降低减缓气候变化的成本，减少它的破坏性，从而消除很多反对意见，让发展中国家可以更快地发展经济。
国家内部的不平等。我主要讨论的是全球范围的不平等（我确实认为这是它最重要的表现形式），但当然，国家内部也存在不平等。有了先进的健康干预措施，尤其是大幅延长寿命的干预措施或认知增强药物，肯定会有这样的担忧：这些技术“只有富人用得起”。我对国家内部的不平等问题，尤其是在发达国家，比较乐观，原因有两个。首先，发达国家的市场机制比较完善，市场通常能让高科技产品随着时间推移变得越来越便宜。其次，发达国家的政治制度更能响应公民的需求，它们有更强的能力实施全民医保之类的计划——而且我预计公民会要求用上那些能显著提高生活质量的技术。当然，这种要求能不能得到满足，谁也说不准——所以我们必须共同努力，确保社会公平。财富不平等（而不是获得拯救生命和改善生活的技术的机会不平等）是另一个问题，这似乎更难解决，我会在第 5 节讨论。
选择退出问题。发达国家和发展中国家的一个共同的担忧是，人们可能会选择不用人工智能带来的好处（就像反疫苗运动，或者更普遍的抵制新技术的运动）。可能会出现恶性循环，比如，那些最不善于做决定的人，恰恰会拒绝使用那些能提高他们决策能力的技术，这会导致差距越来越大，甚至出现一个反乌托邦式的底层阶级（一些研究人员认为这会破坏民主，我下一节会详细讨论）。这会再次给人工智能带来的进步蒙上阴影。这是一个很难解决的问题，因为我觉得强迫人们使用是不道德的，但我们至少可以尝试提高人们的科学素养——也许人工智能本身可以在这方面帮上忙。一个好消息是，历史上，那些反技术的运动通常都是雷声大雨点小：嘴上说不要新技术的人很多，但大多数人最后还是会用，至少在个人选择的情况下是这样。个人通常都会接受大多数健康和消费技术，而那些真正受阻的技术，比如核能，通常是集体政治决策的结果。
总的来说，我对快速将人工智能带来的生物学进步惠及发展中国家的人民，感到乐观。我希望，但不敢肯定，人工智能也能推动发展中国家实现前所未有的经济增长，让他们至少达到发达国家现在的水平。我担心发达国家和发展中国家的“选择退出”问题，但我猜这个问题会随着时间的推移逐渐消失，而人工智能可以加速这个过程。世界不会完美，落后的人不会完全赶上来，至少在最初几年不会。但如果我们努力，也许可以让事情朝着正确的方向发展——而且发展得很快。如果我们做到了，就至少可以为我们对全世界人民的尊严与平等的承诺，做出一些贡献。
4.和平与治理
假设前三节说的都实现了：疾病、贫困和不平等大幅减少，人类的体验基线大幅提高。但这并不意味着所有让人类受苦的原因都解决了。人类仍然会互相威胁。虽然技术进步和经济发展确实会促进民主与和平，但这种趋势很弱，而且经常（包括最近）会出现倒退。20 世纪初，人们以为战争已经成为过去了；结果爆发了两次世界大战。三十年前，弗朗西斯·福山写了“历史的终结”，预言自由民主的最终胜利；但这并没有发生。我们需要弄清楚强人工智能会如何影响和平、民主和自由这些问题。
可惜的是，我不认为人工智能会在结构上优先促进民主与和平，就像我认为它会在结构上促进人类健康和减少贫困一样。人类冲突是对抗性的，人工智能原则上可以帮助“好人”，也可以帮助“坏人”。甚至可以说，有些结构性因素令人担忧：人工智能似乎可以让宣传和监控做得更好，而这些都是独裁者的重要工具。所以，我们需要每个人都做出努力，才能让事情朝着好的方向发展：如果我们希望人工智能有利于民主和个人权利，我们就必须为之奋斗。我对此的感受甚至比对国际不平等的感受更强烈：自由民主和政治稳定的胜利不是必然的，甚至可能不太可能，这需要我们每个人都付出巨大的牺牲和努力，就像过去一样。
我认为这个问题可以分成两部分：国际冲突和国家的内部结构。在国际层面，民主国家在强人工智能出现的时候，在世界舞台上占据主导地位似乎非常重要。人工智能驱动的专制主义太可怕了，我们不能接受，所以民主国家需要制定规则，引导强人工智能进入这个世界，既要防止被专制国家压制，也要防止专制国家侵犯人权。
我目前认为最好的办法是采用“协约战略”，也就是由一群民主国家组成联盟，通过控制供应链、快速扩大规模，以及阻止或拖延对手获得关键资源（比如芯片和半导体设备），在强人工智能领域获得明显的优势（即使只是暂时的优势）。这个联盟一方面会利用人工智能来获得强大的军事优势（大棒），同时也会提出将强人工智能带来的好处（胡萝卜）分享给越来越多的国家，前提是这些国家要支持联盟促进民主的战略（这有点像“和平利用原子能”）。这个联盟的目标是获得更多国家的支持，孤立那些最坏的对手，最终让他们别无选择，只能接受跟其他国家一样的条件：放弃跟民主国家竞争，换取各种好处，避免跟更强大的对手对抗。
如果我们能做到这些，世界就会由民主国家主导，它们有足够的经济和军事实力，不会被专制国家破坏、征服或暗算，而且也许能把人工智能优势转化为长久的优势。乐观地看，这可能会带来一个“永远的 1991 年”——一个民主国家占据上风，福山的梦想得以实现的世界。再说一遍，这很难实现，尤其需要私营人工智能公司和民主政府密切合作，还需要在“大棒”和“胡萝卜”之间做出非常明智的权衡。
即使这些都做到了，仍然存在每个国家内部民主与专制斗争的问题。这个问题的走向很难预测，但我确实比较乐观地认为，如果在全球范围内，民主国家控制着最强大的人工智能，那么人工智能实际上可能在结构上对所有国家的民主都有利。尤其是在这种情况下，民主政府可以用他们更先进的人工智能来赢得信息战：他们可以反击专制国家的舆论控制和宣传，甚至可以创建一个全球自由的信息环境，提供信息和人工智能服务，而专制国家没有技术能力来阻止或监控。也许不需要搞宣传，只需要反击恶意攻击，保证信息的自由流通。虽然不会立竿见影，但这样一个公平的竞争环境很可能会逐渐推动全球治理朝着民主的方向发展，原因有几个。
首先，在其他条件相同的情况下，第 1-3 节提到的生活质量的提高应该会促进民主：历史上至少在一定程度上是这样。我尤其希望心理健康、幸福感和教育水平的提高能够促进民主，因为这三者都跟人们对专制领导人的支持程度呈负相关。一般来说，当人们的其他需求得到满足时，他们会想要更多的自我表达，而民主在其他方面也是一种自我表达。相反，专制主义滋生于恐惧和怨恨。
其次，自由的信息很可能会削弱专制主义。而且，未经审查的人工智能也能给个人提供强大的工具，来对抗压制性的政府。这将是一场漫长而艰苦的战斗，胜利不是必然的，但如果我们以正确的方式设计和构建人工智能，至少在这场战斗中，全世界的自由倡导者都将拥有优势。
跟神经科学和生物学一样，我们也可以想想，事情可以怎么“比正常情况更好”。即使在民主国家，不公正的事情也时有发生。法治社会向公民承诺，法律面前人人平等，每个人都享有基本人权，但显然，人们在现实中并不总是能享受到这些权利。即使只是部分实现了这些承诺，也值得我们骄傲，但人工智能能帮助我们做得更好吗？
比如，人工智能能不能改进我们的法律和司法系统，让判决和流程更公正？现在人们主要担心的是，在法律或司法领域，人工智能系统会导致歧视，这些担忧很重要，需要我们认真对待。但与此同时，民主的活力也取决于我们能否利用新技术来改进民主制度，而不仅仅是被动地应对风险。一个真正成熟、成功的人工智能应用，可以减少偏见，对每个人都更公平。
几个世纪以来，法律体系一直面临一个两难境地：法律的目标是公正，但法律的解释本质上是主观的，所以必须由有偏见的人来解释。想让法律完全机械化行不通，因为现实世界很复杂，不能总是用数学公式来概括。法律体系只能依靠一些出了名地不精确的标准，比如“残酷和不寻常的惩罚”或“完全没有可取的社会价值”，然后由人来解释——而人们解释的时候，经常会表现出偏见、偏袒或者武断。“智能合约”在加密货币领域并没有带来法律的变革，因为普通的代码不够智能，处理不了那么多复杂的情况。但人工智能也许足够聪明：它是第一个可以以可重复、机械化的方式，做出广泛而模糊的判断的技术。
我不是说真的要用人工智能系统来代替法官，而是把公正性和理解、处理复杂现实情况的能力结合起来，应该会对法律和司法带来一些重大的改进。至少，这样的系统可以作为辅助工具，帮助人类做决策。在任何这样的系统中，透明度都很重要，而成熟的人工智能科学应该可以提供透明度：我们可以仔细研究这些系统的训练过程，用先进的可解释性技术来分析最终的模型，看看它有没有隐藏的偏见，而这是我们对人类法官做不到的。这样的人工智能工具也可以用来监督司法或执法过程中有没有侵犯基本人权的行为，让宪法更有效地得到执行。
同样地，人工智能也可以用来收集民意，促进公民之间的共识，解决冲突，找到共同点，寻求妥协。计算民主项目已经在这方面做了一些初步尝试，包括与 Anthropic 的合作。信息更充分、更有思想的公民，显然会巩固民主制度。
人工智能还有一个很明显的机会，可以用来改善政府服务——比如医疗福利或社会服务——这些服务原则上每个人都能享受，但在现实中经常严重不足，而且有些地方比其他地方更糟糕。这包括医疗服务、车管所、税务、社保、建筑规范的执行等等。如果有一个非常有思想、非常博学的人工智能，它的工作是把你在法律上应得的政府服务，用你能理解的方式提供给你——而且还能帮你遵守那些经常让人一头雾水的政府规定——那将是一件意义重大的事情。提高政府的办事能力，既能更好地履行法律面前人人平等的承诺，也能增强人们对民主治理的信任。现在，政府服务不到位是导致人们对政府不信任的主要原因之一。
所有这些都只是一些比较模糊的想法，就像我在本节开头说的，我对它们的可行性不如我对生物学、神经科学和扶贫方面的进步那么有信心。它们可能过于理想化了。但重要的是，我们要有雄心勃勃的愿景，要敢于梦想，敢于尝试。把人工智能当作自由、个人权利和法律面前人人平等的守护者的愿景太有力量了，我们必须为之奋斗。一个 21 世纪的、人工智能赋能的国家，既可以更好地保护个人自由，也可以成为希望的灯塔，让自由民主成为全世界人民都向往的政府形式。
5.工作的意义
即使前四节说的都实现了——我们不仅战胜了疾病、贫困和不平等，而且自由民主成为主流的政府形式，现有的民主国家也变得更好了——至少还有一个重要的问题。“我们生活在一个技术先进、公平体面的世界里当然很好”，有人可能会反驳，“但如果所有的事情都由人工智能来做，那人类还有什么意义？他们怎么在经济上生存下去？”
我觉得这个问题比其他问题更难。我不是说我一定比对其他问题更悲观（虽然我确实看到了挑战）。我的意思是，它更模糊，更难预测，因为它关系到社会如何组织的宏观问题，而这些问题通常只能随着时间的推移，以一种去中心化的方式得到解决。比如，古代的狩猎采集社会可能会觉得，没有狩猎和各种跟狩猎相关的宗教仪式，生活就没有意义，他们可能会觉得我们这种衣食无忧的技术社会没有目标。他们也可能不明白，我们的经济是怎么养活所有人的，或者在机械化社会里，人们还能做什么有用的工作。
尽管如此，还是值得说几句，要记住，这一节写得简短，绝对不是因为我不重视这些问题——恰恰相反，是因为我没有明确的答案。
关于意义的问题，我觉得认为一项工作仅仅因为人工智能可以做得更好就毫无意义，很可能是一个错误的想法。大多数人并不是在所有事情上都是最棒的，但这似乎并没有怎么困扰他们。当然，现在他们仍然可以通过比较优势来做出贡献，并可能从他们创造的经济价值中获得意义，但人们也非常享受那些不创造经济价值的活动。我花了很多时间玩游戏、游泳、户外散步，和朋友聊天，所有这些都不会创造任何经济价值。我可能会花一天时间努力提高游戏水平，或者努力更快地骑自行车上山，而对我来说，世界上某个地方有人比我厉害得多，并不重要。反正我觉得意义主要来自人与人之间的关系和联系，而不是来自经济劳动。人们确实想要成就感，甚至想要竞争，在一个后人工智能时代，完全可以花很多年时间，用复杂的策略去尝试一些非常困难的任务，就像现在人们做研究项目、想成为好莱坞演员，或者创业一样。以下事实：(a) 某个地方的人工智能原则上可以更好地完成这项任务，以及 (b) 这项任务不再是全球经济中获得经济回报的要素，在我看来并不重要。
经济方面的问题对我来说似乎比意义方面的问题更难。“经济”在本节指的是，大多数人，甚至所有人，可能无法对一个足够先进的人工智能驱动的经济做出有意义的贡献。这是一个比不平等（尤其是我在第 3 节讨论的获得新技术的机会不平等）更宏观的问题。
首先，在短期内，我同意比较优势仍然会让人类保持重要性，实际上还会提高人类的生产力，甚至在某些方面，可能会让不同人之间的竞争环境更公平。只要人工智能在某项工作上只比人类好 90%，剩下的 10% 就会让人类获得很大的影响力，增加他们的报酬，实际上还会创造很多新的人类工作，来补充和放大人工智能的优势，这样“10%”就会扩大，继续为几乎所有人提供就业机会。事实上，即使人工智能在所有事情上都比人类做得更好 100%，但它在某些任务上效率低下或成本高昂，或者如果人类和人工智能的资源投入明显不同，那么比较优势的逻辑仍然适用。在相当长的一段时间内，人类可能仍然保持相对（甚至绝对）优势的一个领域是物理世界。所以，我觉得，即使在我们达到“数据中心里的天才团队”之后，人类经济仍然可能继续存在。
但是，我确实认为从长远来看，人工智能会变得非常高效，非常便宜，以至于比较优势不再适用。到那时，我们现在的经济体系将不再有意义，我们需要就经济应该如何组织进行更广泛的社会讨论。
这听起来可能很疯狂，但事实是，人类文明在过去成功地应对了重大的经济转型：从狩猎采集到农业，从农业到封建主义，再从封建主义到工业社会。我猜想，我们需要某种新的、更奇怪的经济体系，而这是今天还没有人能够很好地设想出来的。它可以像为每个人提供高额的普遍基本收入一样简单，但我怀疑这只是解决方案的一小部分。它可以是一个由人工智能系统组成的资本主义经济，然后人工智能系统根据某种次级经济（根据最终源自人类价值观的一些判断）向人类分配资源（大量的资源，因为经济总量会非常巨大）。也许经济会以声望积分来运行。或者也许人类仍然会在经济上有价值，只是以某种我们现在无法预料的方式。所有这些方案都有很多潜在的问题，如果不经过大量的迭代和实验，就不可能知道它们是否可行。跟其他一些挑战一样，我们可能需要努力才能得到一个好结果：剥削性的或反乌托邦式的方向显然也是可能的，必须加以避免。关于这些问题还可以写很多，我希望以后有机会再讨论。
总结
通过上面这些不同的主题，我试着描绘了一个世界的愿景，如果人工智能发展顺利，这个世界既是合理的，也比现在的世界好得多。我不知道这个世界是否现实，即使是现实的，也需要很多勇敢而敬业的人付出巨大的努力和奋斗才能实现。每个人（包括人工智能公司！）都应该为预防风险和充分利用人工智能的优势做出贡献。
但这是一个值得我们为之奋斗的世界。如果所有这些真的在 5-10 年内发生——战胜了大多数疾病，生物和认知自由得到了提升，数十亿人摆脱了贫困，用上了新技术，自由民主和人权得到了复兴——我相信每个见证这一切的人都会被它的影响所震撼。我指的不仅仅是个人从新技术中受益的体验，虽然那当然会很棒。我指的是亲眼见证一套长期以来我们坚持的理想变成现实的体验。我相信很多人会为此感动落泪。
在写这篇文章的过程中，我注意到一个有趣的矛盾。一方面，这里提出的愿景非常激进：它几乎不是任何人预料会在未来十年发生的事情，很多人可能会觉得这是一个荒诞的幻想。有些人甚至可能不觉得它好；它体现了一些价值观和政治选择，不是每个人都会赞同。但另一方面，它又有一些显而易见、理所当然的地方，就好像很多试图描绘一个美好世界的尝试，最终都会殊途同归。
在伊恩·M·班克斯的《游戏玩家》中，主人公——一个叫做“文化”的社会的成员，这个社会建立的原则跟我在这里描述的差不多——去到一个专制的、军国主义的帝国，在这个帝国里，领导地位是由一场复杂的游戏决定的。但这个游戏非常复杂，以至于玩家在游戏中的策略往往反映了他们自己的政治和哲学观点。主人公设法在游戏中击败了皇帝，这表明他的价值观（也就是“文化”的价值观）代表了一种获胜策略，即使在一个由崇尚残酷竞争和适者生存的社会设计的游戏里，也是如此。斯科特·亚历山大一篇著名的帖子也表达了同样的观点——竞争到头来会自取灭亡，最终会导致一个基于同情和合作的社会。“道德宇宙的弧线”也是一个类似的概念。
我觉得“文化”的价值观之所以是一种获胜策略，是因为它们代表了无数个小决定的总和，这些决定都符合道德，而且往往会把大家团结到一起。公平、合作、好奇心和自主，这些基本的人类直觉很难反驳，而且它们会不断积累，而我们那些更具破坏性的冲动往往不会。很容易就能说服人们，如果我们能做到，就不应该让孩子死于疾病，也很容易就能让人们认同，每个孩子都应该平等地享有这个权利。由此出发，不难让人们相信，我们应该团结起来，运用我们的智慧来实现这个目标。很少有人会反对，那些无故攻击或伤害他人的人应该受到惩罚，也很容易就能让人们接受，惩罚应该对每个人都一致。同样显而易见的是，人们应该对自己的生活和选择有自主权和责任感。这些简单的直觉，如果我们认真思考它们，最终会指向法治、民主和启蒙价值观。即使不是必然如此，至少从统计趋势来看，这本来就是人类前进的方向。人工智能只是让我们有机会更快地到达那里——让逻辑更清晰，让目标更明确。
尽管如此，它仍然是一件无比美好的事物。我们有机会为它的实现做出一点贡献。


↓点击加入，学会用AI为你工作（iOS用户请在电脑端打开）

↓全球消费电子展，王煜全与你现场看未来（扫码加入）

此外，我们还为您准备了一份清单

“近期市场相关刺激政策一览表”

查看原图 247K