知名计算机科学家 Yoshua Bengio 近日发出警告，指出人工智能（AI）的迅猛发展可能给人类带来重大风险，因其正变得越来越难以驾驭。
作为蒙特利尔大学教授及蒙特利尔学习算法研究所所长，Bengio 在周四接受 CNBC 采访时指出，机器或将很快具备人类的大部分认知能力。
Bengio 所提及的通用人工智能（AGI），是一种旨在达到甚至超越人类智力水平的人工智能技术。“智能意味着权力。那么，这种权力将由谁来掌控呢？”他提出了这样的疑问。
“如果我们创造的实体比我们更聪明，并且拥有自己的目标，这对人类来说意味着什么？我们是否正处于危险之中？”他进一步追问道。
这位计算机科学家还提及了一个普遍存在的担忧，即目前正被训练的人工智能机器“可能会与人类产生对立”。
他指出，目前仅有少数组织和政府具备建造功能强大且造价昂贵的 AI 机器的能力。他警告说，这将导致经济、政治和军事力量的高度集中，进而威胁到全球的地缘政治稳定。
“有些人可能会滥用这种权力，而有些人则可能乐于看到人类被机器取代。”他说道，并呼吁实施更为严格的监管措施。
据这位计算机科学家称，那些开发 AI 并相互竞争以争夺全球技术主导地位的公司，正在引领一场“危险的竞赛”，他们应该为自己的行为负责。
Bengio 以其在深度学习领域的开创性工作而著称，这一成就为他赢得了 2018 年的 ACM 图灵奖，与科学家 Geoffrey Hinton 和 Yann LeCun 共同被誉为“计算界的诺贝尔奖”得主。2019 年，他又被授予 Killam 奖，2022 年更是成为全球影响力最大的计算机科学家（以 h 指数衡量）。
近年来，科技界的知名人士一直在对 AI 技术缺乏监管所带来的潜在危险表示担忧。
被视为 AI 先驱的 Hinton 曾警告说，在适当监管 AI 武器使用之前，世界可能会遭遇重大灾难。
作为行业内的顶尖人物之一，Bengio 与特斯拉首席执行官埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克等人去年共同签署了一封信，呼吁对 AI 行业进行积极监管。今年 6 月，他又发表了一封关于该技术“严重风险”的公开信，这封信由 ChatGPT 聊天机器人的创建者 OpenAI 的员工共同签署。
在朋友圈分享这个故事；关注『跟着大事跑的人』，每天了解全球热点！