题记:有幸连续参与通信产业报一年一度的好书推荐活动,今年推荐的书是尤瓦尔·赫拉利的《智人之上:从石器时代到 AI 时代的信息网络简史》。
恰逢DeepSeek在龙年岁末掀起新的AI热潮之际,听一听尤瓦尔·赫拉利对于人类命运可能被AI人工智能冲击的警示,恰逢其时。
对于人工智能的态度,以色列学者尤瓦尔·赫拉利无疑是保守而悲观的。
他认为“人工智能是人类历史上第一个能够自行做决策、创造新想法的技术”,因此简单地将其与印刷革命及工业革命相提并论,并由此认为人工智能将如过去的每次信息革命一样,通过拥有足够多的信息来提升人类的智慧和力量,并且明智地利用这种力量极大地造福于人类的想法,是“天真的信息观”。
为了反驳“天真的信息观”,尤瓦尔·赫拉利继《未来简史》之后,又出版了《智人之上:从石器时代到AI时代的信息网络简史》,梳理人类信息网络的历史发展进程并探讨各个时代人们在建立信息网络时所面临的困境及出路,通过与过去的信息革命做比较,来帮助读者理解人工智能的兴起将可能给未来的人类社会所带来的影响。
赫拉利在书中回顾了多个历史事件,如《圣经》的正典化、欧洲的猎巫行动和斯大林的集体化运动等。他认为,在新的信息革命(如印刷术、工业革命等)冲击下,人类社会能免于错误与偏见影响而维持进步的关键,在于分布式民主政体强大的自我修正机制。比如现当代民主社会通过选择运用资讯科技(如报纸、广播、电视、互联网等大众媒体)让信息分流到更多机构和个人,鼓励不同信息节点持续对话以寻求真相,由此推动了女性就业、反种族主义等一系列社会进步。
但是随着信息技术革命进入到以计算机为基础的网络时代,并催生出控制社会的“算法”和超越人类学习能力的“人工智能”,尤瓦尔·赫拉利对于人工智能有能力宣扬一些扭曲的世界观、主张肆无忌惮的权力滥用,以及煽动让人惊骇的新型“猎巫行动”充满了警惕,比如脸书算法助长了缅甸有关罗兴亚人的暴力冲突,比如无处不在无时不在的人工智能监控系统所带来的隐私的末日,比如能够操纵人心的人工智能体在社交媒体上操控、主导公共对话来影响人类的世界观等等。
由此尤瓦尔·赫拉利对盲目乐观地认为技术发展会自动带来积极影响的“天真的信息观”,及其背后的推动力量(包括政府、创业者与企业等)持怀疑和反对的态度。他认为人类过去的所有发明都是在为人类赋予更强大的力量,使用这种力量的决定权握在人类手中,然而人工智能不是不会思考的“刀和炸弹”等工具,而是能够自行处理信息、自主做出决策的行为者;在人类甚至还没搞清楚自己能不能控制这种力量的时候就一股脑地把这些东西制造出来,无疑是愚蠢的。
因此,在《智人之上》一书中,对人工智能忧心忡忡的尤瓦尔·赫拉利所能给出的建议就是:“想要打造更有智慧的网络,需要的只是我们放下天真与民粹的信息观,摒弃想要绝对正确不犯错的幻想,并且认真投入一项困难但平凡无奇的工作——为各种机构制度打造强大的自我修正机制”。
从这个角度来看,在中美人工智能竞赛日趋激烈的当下,写作《智人之上》的尤瓦尔·赫拉利或许更为倾向对人工智能持谨慎态度的欧洲,希望在符合法律、伦理和社会价值观的前提下发展人工智能,更多地注重风险防控,以避免人工智能技术可能带来的负面影响。