DeepMind联合创始人:如果技术浪潮是场无法阻挡的海啸,我们应如何应对?

全文6547字,阅读约需19分钟,帮我划重点

划重点

01《浪潮将至》一书探讨了人工智能和合成生物学两大核心技术对人类社会的影响,以及如何应对这场技术浪潮。

02作者认为,技术浪潮带来的挑战将决定21世纪的走向,人类需要充分利用技术带来的好处,同时防范其带来的风险。

03由于悲观规避陷阱,许多人忽视了对技术潜在风险的讨论,需要克服这种心理,直面即将到来的现实。

04作者呼吁在技术、社会和法律层面构建综合体系,以应对技术带来的风险,避免技术专制主义和反乌托邦式的局面。

以上内容由腾讯混元大模型生成,仅供参考

文|穆斯塔法·苏莱曼

图片《浪潮将至:技术、权力与未来的冲击》,穆斯塔法·苏莱曼 迈克尔·巴斯卡尔 著,贾海波 译

  整个人类世界都建立在生命系统或我们的智能之上。然而,如今这两者都正处在一个前所未有的急速创新与动荡时期,经历着空前的扩展,几乎所有事物都即将改变。一场新的技术浪潮正向我们汹涌而来。这场浪潮正释放出改造生命系统和人类智慧两大基石的力量,可谓智能与生命的浪潮。

  这场浪潮由两大核心技术所定义:人工智能和合成生物学。它们将共同开启人类的新黎明,创造出前所未有的繁荣和富足。然而,它们的迅速扩散也带来了威胁,使得各种恶意行为者有能力在难以想象的范围和规模上制造混乱、动荡,甚至灾难。这场浪潮带来了一个巨大的挑战,它将决定21世纪的走向:我们的未来既依赖于这些技术,又因它们而面临威胁。

  从我们当前的情况来看,试图遏制这场浪潮(即对其进行控制、限制或阻止)似乎是不可能的。本书探讨了其背后的原因,以及这一趋势若无法改变,将对人类意味着什么。这些问题的含义最终将影响每一个生活在当下的人,以及我们所有的子孙后代。

  我相信,这场浪潮正将人类历史推向一个新的转折点。如果我们无法有效地遏制它,我们的物种就可能会面临无法预知的可怕后果。同样,如果我们不充分利用这场浪潮带来的果实,我们也将陷入孤立无援、岌岌可危的境地。十年来,我已多次在私下场合表达过这一观点,然而,随着技术浪潮的影响力变得越发凸显,现在是时候公开阐述它了。

困境

  在深入思考人类智慧的深刻力量之后,我萌生了一个简单的问题,这个问题自此萦绕着我的生活:如果我们能够提炼出赋予人类生产力和创造力的核心要素,并将其转化为软件和算法,那么未来会怎样?这个问题的答案或许能为我们解锁一些极其强大的工具,帮助我们应对最棘手的问题。一种超乎想象的、非凡的工具可能将应运而生,它能帮助我们在未来几十年里应对从气候变化、人口老龄化到可持续食品开发等一系列艰巨的挑战。

  怀着这个想法,2010年夏,我与两位朋友戴密斯·哈萨比斯和谢恩·莱格在伦敦罗素广场旁一间建于英国摄政时代的古色古香的办公室里,共同创建了DeepMind公司。如今回想起来,我仍深感我们的目标宏大、疯狂而振奋人心。我们的目标就是复制那个让人类独一无二的特质,即人类的智能。

  为实现这一目标,我们需要创建一个能够模仿并最终在各个方面(从视觉和语音能力到规划和想象力,甚至包括共情力和创造力)超越人类认知能力的系统。考虑到这一系统将充分利用超级计算机的大规模并行处理技术以及全球互联网日益丰富的新数据源,我们深知,即便是朝向这一目标迈出的微小步伐,都将对社会产生深远的影响。

  这个目标当时看起来遥不可及。那时,人工智能的广泛应用还只是天方夜谭,更多存在于人们的幻想中,仅为少数纸上谈兵的学者和狂热的科幻小说迷所津津乐道。然而,在我写下这些文字时,回顾过去的十多年,人工智能的发展可谓突飞猛进。DeepMind已崛起为世界顶尖的人工智能公司之一,取得了一系列重大突破。这场新技术革命的发展速度和力量,让我们这些身处领域前沿的人都震惊不已。在本书的写作过程中,人工智能的发展速度令人瞠目结舌:每周,有时甚至每天,都会有新的模型和产品问世。显然,这场浪潮正在不断加速。

  如今,人工智能系统已经能够近乎完美地识别人脸和物体。我们已习惯于使用语音转文字和即时语言翻译功能。在道路和交通导航方面,人工智能的表现已相当出色,甚至在某些情境下足以支持自动驾驶。新一代的人工智能模型能够根据简单的提示生成新颖的图像,并能以出色的细节和连贯性撰写文本。人工智能系统还能以惊人的逼真度生成合成声音,并创作出令人赞叹的音乐。即使在更具挑战性的领域,如长期规划、想象力以及复杂思维的模拟方面,人工智能也取得了长足进步,尽管这些领域曾被视为人类独有的能力范畴。

  在过去几十年里,人工智能在认知能力上不断取得突破。现在看来,它似乎有望在未来三年内,在各类任务中达到与人类相当的表现水平。这是一个大胆的论断,但如果这个论断不算太偏颇,那么其意义无疑是深远的。许多在DeepMind创立之初看起来不切实际的想法,如今不仅变得合理可行,而且似乎已经成为必然趋势。

  从一开始,我就清楚地认识到,尽管人工智能这一强大的工具能带来巨大的利益,但它也会像其他大多数形式的强大力量一样,引发重大的危险和道德困境。我担忧的不仅仅是人工智能发展所带来的后果,还有整个技术生态系统的演变方向。在人工智能之外,一场更为广泛的技术革命已然兴起。在这场革命中,人工智能正推动新兴的、强大的基因技术和机器人技术突飞猛进。在这个错综复杂、多种技术相互交织的局面下,一个领域的进步会加速其他领域的发展,而这种相互强化的局面已经超出了任何人的直接掌控。显然,如果任何人能够成功地复制人类智慧,那就不仅仅意味着一个有利可图的商机,更预示着人类历史的一次重大变革。它将开启一个新的纪元,带来前所未有的机遇,同时也伴随着前所未有的风险。

财新mini精选

财新出品,更好的生活,更高质量的阅读

前往腾讯新闻APP加入会员专区