欢迎来到“美丽的新AI世界”｜独思录 x 郑永年

本文要讨论的AI不是人们日常所说的“人工智能”(artificial intelligence)， 而是“人工智残”（artificial ignorance）。“人工智残”指的是一种今天越来越普遍的现象：在人工智能时代，由于广泛和毫无节制地使用（无论是主动使用还是被动使用）人工智能相关的工具（尤其是基于互联网的各种社交媒体）所导致的人类自我智力伤害。它并非日常所说的“智障”，很多“智障”具有先天性，具有不可避免性质，人们对这部分不幸的同胞抱有同情心，也在不断寻找治疗智障的方法。相比之下，“智残”则是因为不当使用工具所造成的人为伤害。尽管讨论这一问题有些敏感，但鉴于其快速发展的势头及其对人类智力的巨大负面影响，人们还是需要直面这个问题，找到有效的纠正方法。“人工智残”这一问题很是复杂，在此提出一些初步的思考和讨论。

题目借用的是英国作家奥尔德斯·赫胥黎（Aldous Huxley）所著《美丽新世界》（Brave New World）的概念。笔者借用这个概念出自三个理由：

第一，尽管人工智能及其相关的工具已经迅速成为第四次工业革命的核心，各国也在千方百计地发展和使用这一技术，以期通过在这一技术领域占据主导地位来主导下一波工业革命，但是对人类社会来说，这一技术还是一个新生事物，其给人类所带来的无疑是一个“新世界”。

第二，赫胥黎在《美丽新世界》一书中，探讨的是技术应用对人类社会的影响，包括正面和负面影响。新技术的出现大多是人类理性的结果，其目的是影响人类社会。对人类来说，既要受惠于技术的进步，也要减少甚至避免技术对人类造成的负面影响。

第三，更为重要的是笔者想借讨论人工智能来更新和修正一下笔者对这个问题的看法。笔者一直对技术和社会之间的关系抱有浓厚的兴趣，多年来一直在观察和研究技术对社会变迁的影响。很多年前，作者出版了题为《技术赋权：中国的互联网、国家和社会》(Technological Empowerment: The Internet, State and Society in China, Stanford University, 2008) 一书，结合中国的案例，探讨了互联网对国家和社会的影响。当时的互联网还处于博客时代，但已经对人类社会的方方面面产生了深刻的影响。尽管当时的互联网对国家和社会的影响也表现为正负两面，但笔者的结论比较乐观，认为作为技术工具的互联网具有“普遍赋权”的功能，既赋能政府，也赋能社会的各个群体。但是，至少就今天的状况来说，需要修正“普遍赋权”这一观点了。高科技发展到人工智能的阶段，其赋权的能量的确越来越巨大，但赋权表现为绝对的不平等和不均衡，不仅表现在一国之内，更表现在国家之间。在一国之内，正如下文会分析到的，人工智能对国家、对公司、对个人的赋能极度失衡。对国家间来说，人工智能分布在少数几个大国，大多数国家并没有能力拥有人工智能。

迄今，人们对人工智能所造成的不平等主要聚焦在就业、收入、技术可得性等方面。但笔者认为，虽然这些不平等不仅存在，而且还会加剧，甚至会成为人类挥之不去的噩梦，但从目前的发展趋势而言，人工智能及其相关工具所产生的最大也最具有危害性的不平等是人类智慧上的不平等。这种智力上的不平等并不是人们日常所说的“技术不可得性”造成的。在研究高科技对社会影响的文献中，一种普遍的观点是，那些能够得到这种高科技的社会群体可以享受高科技带来的好处，而那些不能够得到这种高科技的社会群体则难以得到好处。但是，就人工智能及其工具对人类的智力的影响来说，结局是恰恰相反的，即是说，这种高科技越具有可得性，使用越是频繁，使用者的智力受到的损害就越大。

我们至少可以从两种结构性因素来分析“人工智残”是如何形成的。

在第一个层面，我们可以对人工智能时代的高科技所呈现出来的结构性因素进行分析，研究这些看似互相矛盾的因素对社会群体所能构成的伤害。

简单地说，人工智能时代的高科技呈现四个特性。

近代以来，很少出现技术集中性如此之高的情况。西方发达国家对基于传统技术之上的产业反垄断已经有了一套成熟的方法，一般通过分解一个企业以防止其取得垄断地位，从而为创新和新兴企业的产生创造制度条件。但是，对高科技企业如何进行反垄断，迄今依然是一个巨大的问号。因为基于互联网产业的情况来看，如果拆分企业，那么就不那么符合信息产业的发展逻辑。从微软的反垄断案来看，现在基本上用“开放”替代传统的“分解”。但问题在于，这种“开放”替代的实际效果便是使得这些信息产业的公司变得更加庞大。就人工智能来说，美国尽管在这一领域被视为相当发达，但还没有任何联邦层面的监管体系来约束，只有一些没有多大约束力的总统行政命令。如果找不到有效的反垄断机制，那么这种集中度只会越来越高。

人工智能的这种技术结构在很大程度上也决定了第二个层面的高度等级化，即治理结构的高度等级化。尽管社交媒体呈现出高度的扁平化，但实质上却愈发等级化，一种可以称之为“牧民社会”的治理结构正在快速形成和崛起。自从人类有意识地去发明和创造技术以来，一个总的趋势是：机器越来越像人，而人越来越像机器。因为人是根据自己的人性来塑造机器的，机器便有了最终征服和奴役人类的机会。

实际上，世界不同的文明都有“牧民”的说法，西方的《圣经》讲“牧民”，中国的《管子》也讲“牧民”。这里的“牧民”指的是统治者对老百姓的统治，需要善待老百姓。正如意大利精英政治学派（莫斯卡、柏雷托等）所强调过的，任何社会（不管是民主的还是非民主的）都可以分为两个阶层，即统治者与被统治者，前者是精英，后者是老百姓。统治者——被统治者的治理结构便是牧民社会结构。在《政党》（Political Parties）一书中，德国出生的意大利社会学家米切尔斯（Robert Michels）更是论证了即使是以追求民主为目标的政党或者表现为最民主形式的政党最终也逃避不了“寡头政治铁律”（The iron law of oligarchy）。

英国作家乔治·奥维尔（George Orwell）1949年出版的小说《一九八四》（Nineteen Eighty-Four）更是以丰富的想象力展示出“牧民”的可能结局。实际上，自从社交媒体产生以来，“1984社会”不再是小说中的想象，而是已经成为现实。而人工智能的出现又在加速促成人类社会从“1984社会”向“牧羊社会”转型。

牧羊社会由三部分角色组成，即牧羊人、牧羊犬和羊群。今天，就人工智能的发展水平来说，它已经有能力扮演或者已经在扮演着“牧羊犬”的角色。马斯克在其星链达成第7000颗卫星部署后，在其X发文称，“星链现在构成所有现役地球（轨道）卫星的约2/3”。有能力思考的人们需要看到这一发展趋势背后的涵义。星链是一家私人公司，马斯克对其拥有绝对权力，并不具有政府的公共性。

人工智能之所以能够扮演“牧羊犬”的角色，主要有几个原因。

第一是人工智能技术本身的快速进步。尽管人类已经在各个方面感受到了人工智能对社会所能造成的冲击，但人工智能依然处于快速发展过程之中，并且越来越像人类本身。

第二是人类自我愚昧进程的加快。对绝少数人来说，人工智能是智能，但对大多数人而言，人工智能会造成“人工智残”。这里尤其需要强调一个知识界的“异化”现象，即使近代以来知识界一直被视为是理性的最重要的来源，但如同其他领域，今天在知识和智慧领域也出现了“劣币驱逐良币”的现象。随着追流量、反理性、说假话几乎成为全球性趋势，美国学者霍夫斯塔特（Richard Hufstadter）20世纪60年代的作品《美国生活中的反智主义》这几年在很多国家再次流行开来也就不难理解了。不过，应当指出的是，今天知识所面临挑战的严峻程度并非霍夫斯塔特的“反智主义”这一概念所能形容的。在霍夫斯塔特那里，反智的主体是传统的宗教、政治、商业和教育体制等，但在今天，除了这些主体之外，知识界本身不仅也加入了反智浪潮，更是趋向于成为反智的主体。应当强调的是，在知识领域，“劣币驱逐良币”对“劣币”来说绝对不是好消息。

如本文前面所讨论的，迄今人们只关注人工智能所能造成的物质和制度层面的不平等，但实际上，人工智能对人类最大的冲击是智慧的不平等。倘若人类利用人工智能进行自我伤害的趋势继续下去，最终的结果必然是重返“奴隶式依赖”。

第三是人工智能在快速摧毁此前保障人类生活正常进行的所有体制。《纽约时报》最近（2024年9月5日）发表了一篇题为“对人工智能的痴迷可能导致民主的终结”的文章，文内指出，“随着技术使信息传播变得比以往任何时候都更容易，注意力成了一种稀缺资源，随之而来的注意力争夺战导致了有害信息泛滥。但争夺的战线正从注意力转向亲密关系。新的生成式人工智能不仅能生成文本、图像和视频，还能与我们直接交谈，假装人类”。实际情况可能更为糟糕。在很大程度上，人工智能赋能的社交媒体已经导致美国传统民主形式的死亡。民主是否能够在人工智能赋能的社交媒体时代得以生存和发展是一个很大的问号。不仅仅是选举制度，所有其他制度都经历着严峻的考验。没有这些传统制度的保护，那么人类无疑处于一个极度“个体化”的原子状态。

人们可以说，旧制度的消亡是必然的。的确，任何制度必须与时俱进，否则就会消亡。人工智能已经显示出其强大的制度毁灭能力，但人们仍未发现其制度建设能力。在新制度确立遥遥无期的情况下，个人“原子化”的趋势正在加快和加剧。

因此，不难理解，今天社会的“牧民”特征越来越明显。尽管在社交媒体上，每一个人都可以说话，都可以各抒己见，但就其本质而言，社交媒体已经出现“会说话的羊群”的局面。人性最光辉的一面——“理性”逐渐消失了，但最丑陋的一面——“非理性”得到张扬，这在很大程度上已经威胁到人类共同体的生存和发展。人工智能时代正在恶化两种不平等，即内部各社会阶层之间的不平等和国家之间的不平等。虽然很多国际组织和国家政府正在为如何解决这些不平等伤透脑筋，也在做不同的努力来控制和减少这些不平等，但社交媒体上则是另外一番景象。各种基于社交媒体之上的群体张扬的是阶层阶级之间的仇恨、民族种族之间的仇恨和国家之间的仇恨，“商用民粹主义”“商用爱国主义”和“商用民族主义”情绪深入到社交媒体的各个角落。更为严峻的是，对那些大V网红来说，他们这样做的目的是“商用”，即为了由流量产生的利益，但对很多他们的追随者（也就是“羊群”）来说，则是信仰，则是行动。仇官、仇富、仇（不同的）宗教、仇（不同的）价值和仇外国人已经从线上转到线下，造成了一些群体的生命危机。

技术进步对社会的影响是一个永恒的话题。必须明确意识到，技术的进步并不代表人类的进步。人类既要充分受惠于技术的进步，又要防止和减少技术对社会进步的负面影响。20世纪出现的反乌托邦三部曲，即前面引用的《美丽新世界》和《1984》，再加上前苏联的叶·扎米亚京的 《我们》，便是用文学方式向世人提出的“未来警告”。但很可惜的是，这些作家所想象的情况早已不是“反乌托邦”，而是今天人们的日常生活了。更为严峻的是，在这些作家的作品中，他们只是强调了“政府”（掌权者）在监控和操纵社会过程中的作用，但今天的情况已经变得异常复杂，越来越多的角色，包括资本或者资本操纵的机构或者受利益驱动的大V网红等，都加入了“愚民”的过程。在这种情形下，越来越多的个体和群体在不知不觉中实现着自我愚昧化。同样糟糕的是，今天已经没有了反乌托邦三部曲那样的思想者了。知识分子不仅已经失去了教育社会的责任，而纷纷加入了“愚民”的进程。

现在留给人们的问题只剩下：最终人工智能能否超越“牧羊犬”的角色而成为“牧羊人”？或者说，“牧羊人”最终反而被“牧羊犬”所主宰呢？

倘若这种趋势不加以改变，人类的生存环境就会不断恶化。如何阻止人工智能时代“人工智残”的趋势继续？对世界各国来说，都是一个严峻的挑战。

从今天的情况看，有几个方面的事情是可以做的，也是必须做的。

对公众来说，需要重新认识政府在虚拟现实空间治理中的角色和责任。英国思想家托马斯·霍布斯于1651年出版的《利维坦》（Leviathan）为政府确立其在现实世界中的权力和权威提供了最强有力的哲学论证。正是确立了政府在现实世界的秩序之后，人类才逃离了原先的无政府状态。之后才会有洛克和密尔那样的自由主义者论述这一现实秩序可以是“不专制”的或者“自由的”。今天的虚拟世界秩序或许也要经历一个先确立“利维坦”然后再民主化的过程。

对政府本身来说，需要对互联网非理性言论的蔓延采取一系列强化监管与反制措施，以确保网络环境的安全和稳定，正如今天一些政府已经在践行的那样。在监管中，完善法律法规体系是第一位的。政府需建立健全与非理性言论相关的法律法规，明确界定构成非理性言论、仇恨言论以及网络暴力的行为。同时，加大对现有法律的执行力度，确保相关法规能够有效应对网络中的不当言论，维护虚拟空间的社会秩序。

一方面是平台的自我责任。互联网平台作为信息传播的重要载体，必须承担起对内容的审核和管理责任。“企业的社会责任”概念或者目前流行的ESG（环境、社会和公司治理）概念也可以适用于平台。另一方面是政府对平台的监管。平台为利益驱使，如果没有外在的压力，很难确立自己的责任。鉴于平台中社会个体因为“原子化”而显得软弱不堪的局面，政府在监管平台上需要负起主要的责任。实际上，今天的平台越来越趋向于“私人化”，而政府尽管也会犯错误，但无论是与平台还是与大V网红比较，政府呈现出来的公共性弥足珍贵。类似韩国平台所发生的侵犯女性人权的案例在全世界已经很是普遍。尽管政府经常被视为是“邪恶”的，但要对这些平台进行监管还必须诉诸政府。

各国政府需要制定明确的政策，要求平台建立完善的内容审核机制，及时删除或屏蔽非理性言论，并对传播恶劣内容的用户施加处罚。政府也可以通过评估和奖励机制，鼓励平台在内容治理方面表现优异。

政府可以通过各种技术手段，通过和平台合作建立高效的网络监测系统，实时跟踪和分析网络上非理性言论的动态。结合大数据和人工智能技术，能够迅速识别潜在的危害，及时采取应对措施，防止非理性言论的进一步传播和蔓延。这里，政府尤其需要克制和避免人们所说的“选择性监管”倾向性。尽管任何政府都具有倾向性，尤其在意识形态日益高涨的今天，但如果政府不能避免“选择性监管”，那么就会对极端观点推波助澜，造成更大的恶果。政府需要在公众的“言论自由”和“极端言论”之间作出理性的判断，在保护“言论自由”的同时有效监控“极端言论”。

更为重要的是，需要重塑教育，重塑人类理性。理性是人的现代性的本质，是教育的产物，来之不易。要防止“人工智残”的趋势继续，就必须通过激进的教育改革，重塑公众的理性思考能力。无论是政府还是社会组织，即刻可以做的包括：开展公共活动和媒体宣传，鼓励公众在面对信息时进行理性思考；通过引导公众学会分辨信息的真实性、客观性，减少对情绪化和片面言论的盲目接受；可以组织工作坊、讲座等形式的活动，培养公众的批判性思维能力，使他们能够独立判断非理性言论的影响与后果。

但从长远来说，各国所需要的是从根本上进行教育改革。人类已经进入人工智能时代，但各国的教育系统依然停留在前人工智能时代，因此教育与社会发展严重脱节。正如教育在近代以来的三次工业革命进程中所发挥的关键作用，在人工智能时代，一个国家的未来，无论是内部发展还是其在国际舞台所处的位置，都取决于其教育改革。