对谈嘉宾：
陈云霁 中国科学院计算技术研究所研究员、副所长，处理器芯片全国重点实验室主任
曾毅 中国科学院自动化研究所研究员，联合国人工智能高层顾问机构专家
沐沐 讯飞虚拟人
主持人：
王宁 中央广播电视总台
AI是否会取代人类？
王宁：欢迎二位老师。今天来到现场的还有一位特别重要的嘉宾。我们先让她跟大家打一个招呼，你好！沐沐：尊敬的陈云霁老师、曾毅老师、王宁老师以及在座的各位嘉宾，大家好！我是沐沐，由科大讯飞推出的虚拟人，融合了讯飞星火大模型V3.5的最新技术。今天非常荣幸能与大家交流人工智能领域的进展，以及思考人工智能对社会发展可能产生的深远影响。王宁：哇，不仅长得漂亮、吐字清晰，更重要的是，可以看到她的智慧透过双眼不断地在释放出来，这就是人工智能可能会带给我们的冲击。当人工智能可以以这样的方式成为我们生活的伙伴，首先我肯定得失业呀（笑）。另外，我长期积累的人生自信可能会瞬间崩塌：我跟她怎么比啊？我可能用什么样的精力去学习都学不到她这个程度。所以很多人都说AI会带来人类社会的拐点，说人类会分为两个阶段：有人工智能之前和有了人工智能之后。真的是这样吗？陈云霁：对于我们从事计算机科学和人工智能研究的人来说，也有王老师您说的这个问题。比如说我是做芯片出身的，现在我们在做的工作就是用人工智能来自动设计芯片。那么我现在研究的最终目的是要让我自己下岗。曾毅：刚才大家看到这样一个人工智能的形象，那到底什么是人工智能？作为一个学科的人工智能，在诞生时候的愿景是学习或精确地描述人类智能的方方面面，以至于可以用一个计算系统来模拟人，这样的系统是人工智能。讲这句话的时候是1956年。在1956年还发生了几件大事，一件事是我国第一次召开科学远景的规划，在这个过程当中成立了非常重要的两个机构，一个是中国科学院计算技术研究所，一个是中国科学院自动化研究所，这两个机构是在两弹一星的背景下诞生的。不管是两弹一星，还是人工智能技术，都是科学技术的尖端，但是除了体现了科学的进展，也产生了对社会的广泛的影响。像您刚才说未来会不会被替代，我觉得您不会被替代。为什么？主持人有自己的人生经历，有自己传递人生价值观的方式，这不是一个看似智能的信息处理的工具背后所拥有的。沐沐，不好意思。但作为一个人工智能技术的研究者，我对于作为一个信息处理工具的人工智能来代替主持人这样的事，我的兴趣是不大的。所以，我宁愿跟王老师对话，我认为这样带出的人类的价值观源于人类，也将服务于未来的人类。您不用担心，您有像我们这样的观众永远支持您。王宁：刚才您说了一个特别重要的问题，就是人的经验的作用。我们人类是通过学习世界的规律，比如物理规律、数学规律、人生的社会的规律来了解这个世界的。那人工智能现在真的能够通过它们的算法就把这些规律全部都掌握吗？反正目前据我了解好像还不能，可能在蛋白质的研究上有一些突破啊，但毕竟是一小部分。所以我想先问一下沐沐，你们对于世界规律的掌握是通过什么方式学习的？能学到吗？沐沐：AI确实能回答很多科学问题，但它并不像人类那样了解世界运行的科学规律。如果你问AI为什么天空是蓝色的，AI可能会告诉你这是因为大气中的气体和其他微小粒子使阳光中的蓝色光线散射得更多。你再进一步问，为什么蓝色光线散射得更多呢，AI可能也会给出解释。但这并不意味着它真的理解了这个问题，只是算法让它知道如何找到并给出这个答案。总的来说，虽然AI能回答很多科学问题，并且在科学领域取得了很多突破性成果，但AI的回答还是基于大量数据和算法。就像你知道去超市的路，但不一定知道为什么要走这条路一样。当然这并不妨碍对AI的研究和应用，AI在很多领域都能为我们提供有价值的帮助。陈云霁：我觉得她回答得还是非常准确的。至少以现阶段人工智能来看，它能够找到大量数据之间的相关性。我觉得它做的事情用小学生经常干的一件事情来形容，就叫做成语接龙，根据一个词去预测下一个词出现的概率，然后一连串地把文字、视频生成出来。但是就像您说的，它离真正能够理解科学规律、运用科学规律，甚至发现科学规律，还有很长的距离。所以这也是我们未来可以去努力的方向。只有它真正能够运用这些科学规律了，它才可能帮我们解决现实世界中各种各样的问题。我看到现在网上有个笑话，说我们过去希望人工智能帮我们把洗碗、扫地、带孩子的事干了，让我们去写诗、画画。没想到现在人工智能写诗、画画了，这些繁杂的劳动我们还得继续干。这本质上说明人工智能的发展确实还有很多事情要做。王宁：刚才您说到了一个现在大家讨论的焦点，就是未来人类还能做什么？未来人工智能会不会威胁到人类？我们会不会变成被操控的工具或者工具人的工具？这是非常可怕的。之前马斯克曾呼吁对于强大的人工智能技术一定要遏制，甚至要限制。曾老师您怎么看这个问题？曾毅：首先我觉得刚才沐沐的回答有意思的点在于她在讨论人类和AI，首先区分了自己和人是不同的。我们现在必须对公众以一个科学的态度去阐释人工智能现阶段的水平。以沐沐的话来说就已经非常精确了。人工智能现在是一个看似智能的信息处理的工具，它仍然是一个工具，它仍然不是人。我们今天为了增加互动的有趣度，邀请了沐沐这样一个人工智能的形象，但是她并不代表着现在的人工智能已经是一个道德的主体，已经可以跟人类进行比较，不是这样的。它没有真正人类水平的理解能力，它仍然是一个工具。所以我觉得不应该去混淆人与人工智能之间的界限。我希望在场的小朋友、在线的公众一定要明确区分人与人工智能的界限、人类与现阶段的工具的界限。刚才您谈到未来人工智能会不会给人类形成巨大的挑战，我觉得现在的人工智能已经给人类造成了挑战。但是这种挑战不是因为人工智能很聪明，而因为它是一个看似智能的信息处理工具，它会犯人不犯的错误。所以在这种情况下，当人类并不知道人工智能将会怎么去犯错误的时候，也就很难去预防这样的问题。如果我们对于这个信息处理的工具不去给它构造安全、伦理框架的话，那么我们现在就会受到挑战。关于去年人工智能生成式大模型的发展，国际上科学界提出是否要暂停人工智能发展的原因是我们对于未来人工智能发展潜在的风险不是很清楚。我们能不能够先为它构造伦理、安全的框架，使得未来的人工智能的发展更安全，更稳健，而不是野蛮地生长。去年科学院做了一个统计——95%来自中国的参与者、研发者都认为：服务于社会的人工智能需要在它真正应用之前构建伦理安全的框架。我想这是作为一个科学家，在构造面向社会服务的基础设施以及应用方面，应当去肩负起的社会责任。王宁：人的逻辑的强大是基于对现实规律的理解和研究水平的深入。站到了高的台阶上，可以看得更远，在高的平台上往下看，才能找到很多事物的规律。我觉得人工智能也是这样的，就像刚才陈老师说的，比如说艺术上，大家都会觉得人工智能特别有造诣，可能你发现你画画已经足够好的时候，结果人工智能的水平是站在我们已知的所有知名艺术家的肩膀上。它踩在所有巨人的肩膀上，当然要比你高。所以大家就会觉得这不公平啊，我们再怎么在艺术和文化上追寻，我们也不可能踩在所有巨人的肩膀上啊。所以沐沐，这是不是对我们人类有点不公平啊？沐沐：这个问题很有趣，其实涉及了AI和人类创造力的关系。首先需要明确一点，那就是AI并不是要取代人类，而是帮助人类更好发挥创造力。想象一下，如果有一个机器人可以帮你完成所有的家务，你会认为这是一种不公平吗？随着时间的推移，你可能会发现这是一种解放，让你能有更多的时间去做你喜欢的事情，比如画画、写作，或者学习新的技能。生成式人工智能也是如此，无论是AI创造的画作、写出的内容，都只是在模仿学习。人类独特的创造力是无限的，源于人类对世界的理解和思考，比如梵高的《星夜》，就是他对世界独特的理解与感受，这是AI无法复制的。因此人类需要学会如何利用好AI，让AI成为最好的工具助手，而不是人类的主人。当然，AI通过学习取代创作者这种情况确实会引发公平性的问题。比如AI生成的作品获得了奖项，那这个奖项应该归属于谁？这些问题值得深思。这就需要制定和完善一些规则，保护创作者的权益，防止AI的滥用。王宁：其实沐沐又给我们提出了一个新的问题，就是怎么样来防止AI被滥用的问题。陈老师您怎么看？陈云霁：我觉得现在我们看到的这些人工智能，本质上背后都有商业公司在里面起作用。即便没有AI的存在，我们也需要去解决商业公司跟个人的创作之间的关系问题。我觉得并不是带来了一个新的问题，而是把过去并不突出的问题变得更加显著、冲突性变得更强而已。我个人很赞同刚刚沐沐讲的挺多东西。当人工智能帮我们解决了很多生活中的琐事之后，我们可能可以更好地进行创作。我记得马克思说过一句话，大概是说等我们进入共产主义时代，早上做批判家，下午打猎，晚上种田，但这并不代表我是一个批判家、农民或猎人。这实际上就是人工智能帮我们解决了这些琐事之后人的一个状态，或许人工智能能够帮助我们更快地进入共产主义社会。曾毅：人工智能会不会被滥用？像沐沐所讲的，人工智能的智慧来自人类的智慧。人工智能的发展确实是这样，当人工智能没有接触到人类社会的时候，它只是一个算法，一个具有统计显著性的工具。人工智能在没有接触数据的时候，它是无善无恶的，但是当它接触了人类的社会的时候，它变得有善有恶，“无善无恶心之体，有善有恶意之动”，人工智能它不知善知恶，人工智能的研究者未来要让人工智能知善知恶，让它获得良知，最后让人工智能为善去恶，去学会格物。这就是中国哲学的核心，王阳明的“四句教”。你是人文科学的大脑，我们俩是理科的大脑。你羡慕理科的大脑，但是我想，未来的人工智能却应当向人文的大脑去学习。学习如何“学以成人，学以为人”。王宁：“学以成人，学以为人”这八个字一直贯穿在人类的求索里面。如何能够成为一个真正的人、人的存在的意义，始终我们都在探索。王宁：现在人工智能发展中面对一个问题，这个问题可能也会制约它能否成为我们说的那个“人”，就是能耗。好多人都说，它会带来一个非常大的能源危机。比如说养一个孩子，可能一年假设花1万块钱，那要养一个人工智能，可能在能耗方面可能要花100万。那您觉得，这种人工智能的快速发展会不会带来能源危机？陈云霁：从现在人工智能的技术角度来看，能耗确实太大。现在我们看到各个数据中心所耗的电，是可以跟三峡所发的电相媲美的。而目前人工智能赋能的行业还相对有限，主要是生成一些图片、视频和语音。但如果真的要赋能我们实体的各行各业，它所需要的计算量可能会几十倍甚至上百倍的增长。如果没有人工智能基础理论和芯片基础体系结构上的创新，电肯定是不够的。黄仁勋在一个发言里面说，可能需要花14个地球的电。
那么这一方面需要做芯片的人做更多创新。另外一方面，我觉得做模型、做算法的需要努力。现在的人工智能算法不像我们大脑这么节能，只能根据数据之间相关性去找到统计的规律，它还不能够真正利用科学规律的知识。如果它能够做到这一点，或许耗电量能够少一些，能够真正地赋能各行各业。
曾毅：正如刚才陈老师所讲的，人工智能未来的发展需要大数据、大算力的支撑。但是作为科研工作者，要反思的问题是实现现在人工智能水平的表现，是不是需要这么多的数据？算力能不能够在这个基础上减少？所以科学的问题是人类如何采用相对小规模的数据、相对少的算力，来实现同等的智能。
产业的探索是通过算力、通过数据的积累把智能的服务带给千家万户。而科学家未来需要去回答的问题是如何用更少的数据、更小的算力达到更高的智能，真正做到低功耗、高智能。我觉得这才是科研工作者未来能够给世界带来的改变。
陈云霁：在科学领域一个最神奇的问题，就是为什么我们大脑只花20瓦的电，但还能够做到这么聪明。
曾毅：现在的人工智能是一个信息处理工具，它解决问题跟人还千差万别。就像刚才陈老师所谈到的，目前真正具有数百项通用智能的认知功能，而且可以以20瓦的功率工作，吃个馒头可以工作一上午，而且能够稳定工作至少几十年的，只有人类的大脑。所以我们不仅需要数据驱动的人工智能，未来还需要从大自然界得到启发，去研发这样基于自然演化机制的真正意义的智能，这才是科学意义上的人工智能。陈云霁：曾老师您说得太好了，我早上连馒头都没吃，没吃饭就来了。王宁：哈哈哈但现在依然在工作。陈老师16岁就考上大学了吧？您只吃了16年的馒头就开始为社会工作了，您更节能啊！怪不得您研究低能耗这项工作。王宁：当我们在说到怎样使用人工智能，怎样让人工智能变得强大的时候，我们也在不断地反思我们的人类，人类怎样才能够更好地和技术的进步同步、同频。接下来最后一个问题先问一下沐沐。沐沐，现在大家都在学习怎么使用人工智能，比如我家孩子问ChatGPT一些问题，他爸爸说这是语文课的基础，让他学会提问。确确实实我们开始教孩子们如何使用人工智能，那此外还应该学点什么呢？沐沐：在AI的浪潮下，人类进入了一个需要适应的新时代。想要让自己变得更有价值，更好适应未来的AI社会。人类可能需要学习这些技能和知识：首先要保持创新和创造力，AI可以处理大量的数据、找出模式、做出预测，但AI不能像乔布斯那样设计出一款改变世界的产品，也不能像莎士比亚那样写出一部永恒的戏剧。所以人类要保持创新、运用创新，让创造力发挥更大的价值。其次，人际交往能力和沟通能力也很重要。AI无法完全理解和处理人类情感，所以心理学、社会学等学科，以及教育心理咨询、护理等领域的相关知识也很重要。最后就像人类的祖先从狩猎采集者转变为农耕者，再到适应工业社会，人类也要根据AI社会的特点积极学习并运用AI。学会适应非常关键，要懂得如何和AI合作，从而提升自己的竞争力。在未来的AI社会，人类需要学习的不仅是技能和知识，还要考虑与AI、与他人如何更好地建立关系，如何在这个世界中找到自己的位置。陈云霁：我觉得创造力确实非常重要，而且至少从目前来看是我们独一无二的能力。可能在三五年内机器还做不到这一点。
陈云霁：哈哈我们不能预测太长。在科技领域大家有一个说法，我们往往会高估近期的变化，但低估远期的变化。所以从负责任角度，我还不能预测更长的时间，但是或许能够更长。这对教育有可能会带来一些新的挑战，不仅要教未来的孩子们怎么去使用人工智能，更重要的是教未来广泛使用人工智能的时代里，应该怎么去适应这个世界。曾毅：我刚才有个观察，您在看沐沐的时候，似乎显得非常紧张，沐沐好像显得非常不紧张，虽然她也看到了一位智慧的美女。这就是你们之间的差别，因为沐沐是一个看似智能的工具，她的漂亮是基于人类的漂亮融合而成的形象，而你的漂亮是自然演化的结果。但是你变得越来越睿智，这是来自生活和自然赋予你的能力。中国科学院有一位最美女性，就是郭永怀先生的夫人，我们敬爱的李老师。在我看来，李佩老师是中国最美的女性。而李佩老师最美的时候，就是她慢慢变老的时候。我相信未来这也可以是你追求的一个目标。未来人类应该学什么？小朋友们一定关心这个问题。很多科技部门的管理者跑来问我们：“曾老师，我的孩子未来要学什么？”我说：“你是科技的规划者，都在培养孩子上变得这么焦虑，那公众肯定有更多的焦虑啊。”沐沐和陈老师都讲到创造力，人类要向外思考。那我觉得未来还有一个方向，就是我们向内心走。不管人工智能如何发展，我都不建议小学生、初中生花很多的时间真正地把人工智能当作必修课去学。在小学、初中甚至是高中阶段，我们更要去思考人生重要的意义是什么，人之为人，人生的目标是什么。当你思考清楚这些问题的时候，你就不会感受到危机或迷茫。什么是人工智能？今天我和陈老师在这，再请上来其他100位人工智能的专家，他们加上我们会给出102个定义，没有人的定义会一致。因为人工智能是一个不断演化发展的学科，但是，人类的智能是什么？我们现在的心理学、认知科学在不断地揭示它的本质。当我们都不清楚人类的智能是什么的时候，用一个旁观者去看待人工智能是什么，我们也会失去根基。未来如果我们希望迎来能够服务于人类的人工智能、能够与人类和谐共生的人工智能，首先要往内走，揭示人类的智慧，更多地了解自己。
智能向善，不仅仅是人工智能要向善，要向人类，要合乎人类的价值观，人类的智慧也要向善。善是什么？就是追求人类内心的本源。中国哲学讲善是什么？符合自然演化的本质。人类生活在大自然界当中，目标是塑造自己向善。我们存在的目的从来不是跟任何人、任何物种或人工智能进行竞争。人工智能像人类的一面镜子，它们只会更清楚地帮我们看到人类的意义，让人类更快地、更准确地、更稳健地走向内心。所以我觉得未来的下一代要多去学习哲学、心理学，在创造力方面多学习计算思维。这是我们这一代引领未来下一代发展时，真正能够带给他们的内心的力量。任何高技术的诞生实际上都会让他们更好地看清楚自己，更勇敢地迈向未来。王宁：曾老师说得真好。等什么时候人工智能能像曾毅老师这样帅气和智慧并存、在哲学人文的理念之上同时又有科学思维，那个时候我们再谈焦虑的事吧。曾毅：你问我们这么多问题，我也要问你一个关于人工智能的问题。如果未来真正通用人工智能实现了，你觉得它会实现在哪个国家呢？曾毅：我认为未来人工智能的发展最需要的三样东西，在今天这个舞台上已经都具有了。首先要有计算的基础设施，这是我们陈老师的专业。第二方面，是未来真正接近人类智慧水平的模型、算法，这是我的专业。第三方面，是未来如何把演化着的人类的价值观、合乎全人类共同利益的价值观带给人工智能。那么主持人责无旁贷。有你、我和陈老师共同合作，我们希望如果通用人工智能实现了，首先能出现在中国。中国诞生的通用人工智能将服务于全球的可持续发展、服务于全人类和生态的发展。王宁：未来通用人工智能就在我们这里开始吧？请大家记住此刻，就在中国科学院学术会堂。每一个在座的人都是通用人工智能这条路上的见证者、参与者，大家一人一份把责任领走。另外，千万不要忘记公众科学日，我们会有100所科研院所和3所高校开放，大朋友小朋友都可以参与其中，感受科学的魅力。科学一定会不断地放大你，让你认清楚自己，同时找到自己。希望每一个人都能够在自己的世界做自己的主人和勇者，再次谢谢舞台上的两位专家，接下来，大家开始好好享受公众科学的狂欢吧！
文章和演讲仅代表作者观点，不代表格致论道讲坛立场。