若想阻止人工智能带来的更大危险，“首先必须消除信任悖论”。
站长之家(ChinaZ.com) 3月21日 消息:世界畅销书作家、以色列历史学家尤瓦尔・赫拉利（49 岁）在他最近的一次新书《智人之上：从石器时代到AI时代的信息网络简史》 座谈会上，谈到了对人工智能与人类未来的问题。他表示，“从石器时代的石斧，到印刷机，再到原子弹，迄今为止的科技革命，都只是我们手中的工具。然而，人工智能却能够自行做出决定 —— 我们不知道它会轰炸谁，也不知道它会“发明”出什么样的武器 —— AI 革命有可能成为一种前所未有的威胁。”
赫拉利指出：“为了解决 AI 的这一问题，我们人类比以往任何时刻都更迫切地需要合作。但遗憾的是，我们正在迅速失去对彼此的信任。” 他还表示：“尽管我们拥有人类史上最先进的信息技术，但彼此之间的交流却变得更加困难了。”
他将 “AI算法” 视为这种现象产生的原因。他指出，发展人工智能的目的并不是 “追寻真相”，而是 “提高用户参与度”，因此人工智能不仅会在社交媒体上传播虚假信息，还会传播刺激恐惧和仇恨情绪的内容。他表示，“与凭借长期经验和手段来分辨信息真伪的传统媒体（报纸、电视等）不同，在如今的媒体世界里，充斥着廉价且迎合大众的虚假内容，真相反而被埋没了。这是阻碍民主主义发展的严重因素。”
赫拉利告诫说，若想阻止人工智能带来的更大危险，“首先必须消除信任悖论”。
“当我问那些引领 AI 潮流的人‘为什么要这么着急呢’时，得到的回答是‘因为如果我们谨慎行事，竞争对手就会在 AI 竞赛中获胜’。我们首先必须建立起彼此值得信任的框架，我们需要的是基于信任进行学习的人工智能，而不是在不信任和冲突中诞生的人工智能，这样的人工智能才值得我们的信赖和依靠。”
赫拉利提议，现在是每个人 “都应该思考如何使用人工智能” 的时候了 —— 这就如同吃完食物后需要时间去消化一样，接触到新的信息后也需要时间来反思。
