1.劳动力替代型AI将改变人类劳动与非人力生产要素的相对重要性,降低社会对人类的关注度。
2.由于AI能轻松替代人类从事脑力劳动,人们不再需要为人类的劳动时间付费,可能导致劳动力替代型AI导致财富分配不均。
3.然而,AI在现实世界中行使权力的能力将显著降低,尤其在决策制定等方面,人类仍具有一定影响力。
4.未来社会可能变得更加静态和富裕,但人类雄心壮志可能受到限制,导致社会流动性减少。
5.为应对AI带来的挑战,个人和组织需保持实现雄心壮志的潜力和变革活力,跟上AI发展的步伐。
以上内容由腾讯混元大模型生成,仅供参考
在本文中,作者 Rudolf 深入剖析了 AGI 到来之后的资本、人类劳动与社会权力结构之间的复杂关系。其核心观点是,劳动力替代性 AI 将改变人力与非人力生产要素的相对重要性,这会降低社会对人类的关注度,同时使现有的权力更加有效和根深蒂固。这意味着,在默认情况下,资本将在 AGI 时代变得比以往更加重要。
题图|SiliconCloud平台模型
需要注意的是,首先,货币将继续存在,除非有一个单一的 AI 系统负责所有的经济规划。价格的主要功能是传递信息。如果存在多个行为体并且相互交易,那么一个强有力的假设应是:价格仍然存在(即使人类无法直接看到或参与交易)。还要记住,无论奇点来得多么迅猛,资源的丰富程度仍是有限的,那资源必须进行分配。
(当然,有钱人继续建设基础设施,使得金钱能更容易地转化为成果。我亲眼见过量化金融公司几乎成功地将英国顶尖的 STEM 毕业生的所有雄心扼杀,让他们在金融市场中以榨取微小收益为目标。这一语境下,金钱依旧至上!)
这意味着,一旦我们拥有劳动力替代型 AI,金钱在现实世界中转化为成果的能力将大幅提升。
为什么国家会关心人民福利?
普遍基本收入是由关心人类福利的国家提供,国家为何会关心并可能继续关心人类福利?
过去几个世纪,国家对人类福利的关注有了很大的转变。为什么会这样?我们可以分析这些原因,看看它们的持续性如何:
1. 启蒙运动带来的道德变化,尤其是自由主义和个人主义日益突出。
接下来,让我们讨论劳动力替代型 AI 对通过劳动实现“超常成果”成功的几种主要途径的影响。
创业:目前,创业正在成为一项针对有技术天赋、无政治野心的年轻人(至少是雄心勃勃的那些)的“雄心技术”(Matt Clifford 的术语)。如今,创业变得更加容易,AI 工具已经能够让小团队在无需雇佣新员工的情况下大幅提高效率,同时降低进入新技能和新领域的门槛。然而,劳动力替代型 AI 的出现可能会让创业的可行性变得不确定。在某种理想化的情况下,AI 仍然只是工具,企业家在 AI 普及之后仍有可能通过提供方向与决策取得成功。但更可能的是,随着 AI 能力的增强,最终会直接取代人类的创业角色。比如,风险投资基金或许可以直接利用资金支持数百个由 AI 运行的创业项目,而无需通过人类企业家作为中介来管理这些 AI 。
知识分子:凯恩斯(Keynes)、弗里德曼(Friedman)和哈耶克(Hayek)等经济学家虽从事技术性经济学研究,但他们巨大的影响力更多则是来源于他们构建并推广的世界观(尤其是哈耶克)。与他们类似的还有密尔(John Stuart Mill)、罗尔斯(John Rawls)和亨利·乔治(Henry George),他们的思想框架、哲学体系对社会产生了深远的影响。这些人之所以能脱颖而出,是因为他们的产出不仅仅依赖于技术的正确性,还需要基于道德判断。然而,即便 AI 能够在说服力和技术正确性方面超越人类,它在这一领域对人类文化的影响方式仍存在不确定性。不过可以预见的是,人类知识分子很可能面临不利局面。知识分子的思想体系之所以能大放异彩,是因为天才在过去稀缺。一旦 AI 大规模创造意识形态,人类个体的思想很难再成为“耀眼明星”。世界级的知识分子或将走向灭绝。
同时,最优策略或许并不是进入政治体系本身——比如,与其他百万政治精英竞争总统或总理职位。而是将政治技巧用于其他领域,例如像山姆·阿尔特曼(Sam Altman)那样进入政府以外的机构,在那些政治技能比较稀缺的地方施展才能。未来,超高效 AI 的出现可能会进一步降低人类情商的重要性,同时让在组织内部的政治博弈取胜后的收益更高。
宗教:在现有宗教体系中获得地位的路径可能类似于政治,而创立新宗教的路径可能类似于知识分子。
这一切意味着,在拥有劳动力替代型 AI 后,个人在现实世界中不依靠资金来获取和行使权力的能力将大幅下降。
《不平等社会》(http://localhost:8000/out/short-reviews-nonfiction-1/#section-3)是一本关于不平等历史的好书,这本书(根据作者的说法)已经经受住批评。其结论是,过去不平等的巨大缩减都源于“四大平等使者”之一:全面战争、暴力革命、国家崩溃和大流行病。通过有意识的政治选择来缩小收入差距在历史上一直非常困难,几乎从未发生过。
资金将比以往任何时候都更能在现实世界中买到结果。
人们的劳动将比以往任何时候都更难产生杠杆效应。
通过自己的劳动在大多数或所有领域实现超常成果将难以实现。
无论是在国内还是国际,资本都没有发生根本性的均等化。
这意味着,当劳动力替代型 AI 到来时,拥有大量资本的人将拥有永久的优势。他们将比今天的富人拥有更大权力——不一定是对其他人的权力(只要自由制度仍然强大),但至少是在物质和智力成就方面。资本现在可以轻松地转化为任何领域的超人类劳动,新兴势力将无法打败他们。
如果你读完这篇文章后决定去量化金融公司工作,我会感到难过。如果你本来打算做一些与 AI 相关的有雄心和影响力的事情,但读完这篇文章后,选择去 Anthropic 这样的公司谋求低风险的个人资本积累,同时对公司略有帮助(略微超出了公司招募的最低水平员工的贡献),那么我不会太责怪你,但仍会感到有些遗憾。
我们还应该努力保护世界的活力和动态性。
查看原图 646K