哈里王子是呼吁停止开发强大人工智能的900多位公众人物之一。克里斯蒂娜·邦弗里/盖蒂图片社通过《Variety》提供
史蒂夫·班农 (Steve Bannon)、威尔·i·艾姆 (will.i.am) 与哈里王子 (Prince Harry)，这三位看似毫无交集的名人有何共同点？答案是：他们都对超越人类智能的“超级智能AI”深感忧虑。这三位名流，连同来自商界、科技界、艺术界及媒体界的总计900余位公众人物，共同签署了一份声明，呼吁在科学界就安全开发达成广泛共识之前，应当禁止该技术的进一步研发。
签署这份声明的阵容堪称瞩目，其中包括两位被誉为“人工智能教父”的先驱人物——约书亚·本吉奥 (Yoshua Bengio) 和杰弗里·辛顿 (Geoffrey Hinton)。此外，苹果公司联合创始人史蒂夫·沃兹尼亚克 (Steve Wozniak)、维珍集团创始人理查德·布兰森 (Richard Branson) 等商界领袖也赫然在列。值得注意的是，此次联署跨越了鲜明的政治分野：美国前总统特朗普的前首席战略顾问班农，与左翼政治人物——例如前民主党众议员乔·克劳利 (Joe Crowley)——共同加入了这一行列。这份于本周三发布的声明，其签署名单仍在持续扩大。
该声明由非营利组织“生命未来研究所” (Future of Life Institute) 发起，文中明确指出：“我们呼吁禁止开发超级智能，除非科学界能够达成广泛共识，确认其开发过程是安全且可控的，并且获得了公众的充分认可。”
这一呼吁背后，是社会对强大人工智能潜力的普遍焦虑。担忧者们已经提出多项严峻的忧虑，包括大规模的就业岗位流失、对人工智能系统彻底失控的风险，乃至人类灭绝的可能性。近年来，随着OpenAI和谷歌等科技巨头相继推出日益先进的人工智能模型，这些担忧正持续加剧。
“人工智能的未来应当是服务于人类，而非彻底取代人类，” 哈里王子在声明中强调，“衡量进步的真正标准不在于速度，而在于我们能否明智地掌控前进的方向。”
但并非所有人都持此悲观论调。也有观点认为，人工智能超级智能的真正实现可能仍需数十年时间，并且届时人类将有能力对其进行有效管控。同样被誉为“人工智能教父”之一的Meta首席人工智能科学家杨立昆 (Yann LeCun) 就在今年三月表示，人类终将成为超级智能系统的“主宰者”。
这已是“生命未来研究所”组织的最新一份公开声明。该非营利机构自2014年成立以来，已多次发布公开声明，对人工智能的失控发展提出警示。值得一提的是，该机构曾获得埃隆·马斯克 (Elon Musk) 的资助，而马斯克旗下的xAI公司亦开发了自己的人工智能聊天机器人Grok。
加州大学伯克利分校的计算机科学教授斯图尔特·罗素 (Stuart Russell) 在联署声明中特别强调：“这并非一项传统意义上的禁令或暂停令。”他接着质问道：“我们仅仅是要求对这样一项技术实施充分的安全措施——要知道，就连该技术的开发者们也坦言，这项技术极有可能导致人类灭绝。这样的要求，难道过分吗？”
作者：罗伯特·斯卡梅尔
文章仅供交流学习，不代表日新说观点
本文出处：Prince Harry, Steve Bannon, and will.i.am join tech pioneers calling for an AI superintelligence ban