当前，人工智能技术发展不断取得新突破，已成为引领新一轮科技革命和产业变革的重要驱动力量。与此同时，这一颠覆性技术加剧了数据泄露、算法偏见、虚假信息泛滥、智能鸿沟等诸多影响人类发展的全球性风险。为应对挑战，国际社会有关加强全球人工智能治理的呼声和行动全面兴起，但对一些理念细化、实施路径等议题未形成一致共识。在此背景下，2024年世界互联网大会乌镇峰会网络空间国际规则论坛发布了《全球人工智能治理研究报告》（以下简称《报告》）。作为峰会重要成果，《报告》深化落实《全球人工智能治理倡议》，系统回应了“谁来治理”“治理什么”“如何治理”等关键问题，以中国方案积极推动全球人工智能治理迈向更高水平。
谁来治理：多边、多方等多元主体携手推进
自1956年达特茅斯会议正式确定“人工智能”术语以来，人工智能技术在数次起伏发展中取得了突破。1997年深蓝超级计算机战胜国际象棋世界冠军促进了国际社会关于人工智能伦理的早期讨论，2016年AlphaGo战胜围棋世界冠军加速全球人工智能治理迈入制定原则方针的探索阶段。伴随着ChatGPT问世，相关国家、国际组织、技术社群、科技企业等多元主体提出了各具特点的治理方案。
从多边平台的进展看，多边进程已成为全球人工智能治理的主要渠道，联合国、二十国集团、金砖国家、经济合作与发展组织等平台形成了重要治理成果，特别是近年来联合国发挥了重要引领作用。从多方机制的成果看，一些技术社群、国际组织、会议论坛等在技术标准、伦理规范等领域积极推动发展负责任的人工智能开发与应用。从相关国家和地区的做法看，中国、美国、欧盟、英国以及肯尼亚、埃及、哈萨克斯坦等基于不同的政治文化、产业发展和目标诉求等因素形成了不同的治理路径。其中，中国遵循“坚持以人为本、智能向善”的理念和宗旨，统筹人工智能发展和安全，取得了积极进展。从科技企业的实践看，大型科技企业在技术、产业和市场领域具有优势，在人工智能前沿开展了丰富的实践，包括提出人工智能伦理原则、成立内部治理机构、提供解决方案、加强国际合作等。
上述行动和机制在原则议题上达成了一定的共识，但仍然高度碎片化，在理念细化和方案落实方面存在较多分歧。《报告》指出，发达国家把人工智能议题与自由、民主、人权等议题挂钩，其主导的人工智能治理平台起步较早、影响力较大。相较而言，大多数发展中国家则缺少领先的人工智能科技企业，更多关注能力建设、智能鸿沟等发展议题，在全球治理进程中声势较弱、代表性和话语权不足。尤其是一些国家以意识形态划线，构建排他性集团或制造发展壁垒，阻碍了全球人工智能治理合作。
对此，《报告》站在多边、多方等多元主体携手推进的视角，提出完善全球治理机制。首先，应积极探索在联合国框架下成立人工智能国际治理机构，协调涉及人工智能发展、安全与治理的重大问题。同时，发挥区域性多边组织和国际标准化组织、世界经济论坛、世界互联网大会等各类专门性组织等重要作用。再者，推进其他人工智能的倡议机制、安全研究网络、企业联盟等组织形式，鼓励政治组织、行业组织和技术组织之间加强互动。最后，主要大国应增强政治互信和合作意愿，建立应急联络与协作机制，合理管控人工智能竞争。
治理什么：围绕人工智能重要议题共商善治
人工智能技术具有快速迭代、分支丰富、高度随机、广泛连接等特征。因此，不同于传统技术治理，全球人工智能治理远超传统技术标准协调的议题范围。《报告》基于人工智能对技术创新、经济发展、社会进步、地缘政治等影响，围绕人工智能发展、安全和治理，提出了十大重要议题。
第一，国家主权原则和人工智能发展是全球人工智能治理的首要议题。《联合国宪章》确立的主权平等原则是当代国际关系的基本准则，其原则和精神也应适用于指导全球人工智能治理。因此，一个国家不仅应享有自主发展人工智能、自主选择人工智能监管模式的权利，也应享有平等参与人工智能全球产业分工，平等参与人工智能国际规则制定的权利。而对于个别国家利用技术垄断和单边强制措施制造发展壁垒，利用人工智能技术干涉他国内政、社会制度、社会秩序、危害他国主权的行为，国际社会应坚决予以反对和抵制。
第二，模型算法和数据风险因其直接影响人工智能系统运行方式，成为全球关注的核心安全议题。一方面，数据投毒、对抗样本攻击、数据质量等数据安全风险可直接导致模型算法产生“智能幻觉”，出现决策偏差、歧视和不公平等现象。另一方面，模型算法的训练和使用可能加剧数据泄露、侵犯个人隐私等问题。由此，发展负责任的人工智能，既要综合考虑模型算法的可解释性、可靠性、鲁棒性、公正性、抗攻击性，也要切实处理如何保护个人信息、确保数据的质量和安全等问题。
第三，国家间的智能鸿沟问题是人工智能发展在全球数字鸿沟领域的新表现，迫切需要加强国际协作予以解决。面对智能鸿沟在政策、技术、产业、应用、治理等领域全面加剧的趋势，各国已在制定国际标准、增强政策互操作性、推进国际研发等方面加强合作。但值得关注的是，近年来个别国家试图打造“科技铁幕”、大搞技术封锁，通过阻断别国的人工智能技术发展来寻求在该领域的所谓领导地位。国际社会应高度警惕这一行径，若该势头如果得不到制约，将严重干扰全球人工智能的发展和治理进程。
此外，《报告》还深入阐释了社会变革和可持续发展议题、技术创新和产业发展、人机情感和生命伦理议题、内容安全风险、产品责任和风险、知识产权保护等重要议题。这反映了国际社会在人工智能治理领域已达成的广泛共识，并为全球各国多边各方讨论人工智能发展和治理议题、开展人工智能规则制定提供优先事项和重要蓝本。
如何治理：构建完善全球人工智能治理体系
人工智能全球治理是世界各国面临的共同课题，攸关全人类命运。《报告》就各方普遍关切的人工智能发展、安全与治理问题提出了建设性解决思路，既为中国积极参与人工智能全球治理提供了根本遵循，也为推动全球人工智能治理迈向更高水平贡献了中国智慧。
一是提出目标宗旨。《报告》勾勒了全球人工智能治理的美好愿景，倡导国际社会加强信息交流和技术合作，共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范，构建开放、公正、有效的治理机制，不断提升人工智能技术的安全性、可靠性、可控性、公平性，促进人工智能技术造福人类，推动构建人类命运共同体。
二是凝聚原则共识。《报告》主张，各国应尊重国家主权，充分彰显中国对人工智能发展和治理的负责任态度，也说明搞“小院高墙”和排他性“小圈子”是逆时代潮流。《报告》指出，全球人工智能治理应坚持发展与安全并重原则，在鼓励和推动人工智能技术创新、赋能经济社会的同时，应将安全意识和监管措施贯穿人工智能的全生命发展周期。《报告》强调，发展人工智能应坚持平等、互利、普惠原则，推动各国在人工智能技术的开发与应用上实现权利、机会、规则的平等，促进技术与知识的共享，缩小智能鸿沟，使全人类共享人工智能带来的福祉。
三是明确行动路径。《报告》提出，坚持以人为本、智能向善，意在警示技术发展不能偏离人类文明进步的方向，规范人工智能在法律、伦理和人道主义层面的价值取向，确保人工智能发展安全可控。《报告》认为，既要赋能千行百业，在模型研发、基础设施布局、创新链和产业链深度融合、赋能实体经济、助力可持续发展等方面强化国际合作；又要防范应对数据、算法、技术滥用等安全风险，支持在联合国框架下建立兼顾发展中国家利益的、全球可互操作的人工智能安全风险评估框架、标准和治理体系。《报告》倡导，加强国际合作能力建设，完善全球治理机制，不仅有助于提升发展中国家或技术落后国家的代表性、参与度和话语权，造福世界各国特别是全球南方共享人工智能知识成果和经验；也充分体现了中国负责任大国担当，唱响了中国理念主张，深入推进参与人工智能全球治理，为推动构建网络空间命运共同体迈向新阶段做出贡献。
（作者：唐巧盈 上海社会科学院网络空间国际治理研究基地秘书长、上海市习近平新时代中国特色社会主义思想研究中心研究员）