关注我们
2024年12月2日，由清华大学、新加坡国立大学、香港科技大学联合主办的“2024人工智能合作与治理国际论坛”在新加坡隆重开幕。当天下午，“人工智能伦理与治理”专题论坛在耶鲁-新加坡国立大学学院礼堂（Yale-NUS College Hall）成功举办。中国新一代人工智能发展战略研究院执行院长、信创海河实验室主任龚克，新加坡信息通信媒体发展管理局数据驱动技术开发总监李婉诗（LEE Wan Sie），墨尔本大学人工智能与数字伦理中心联席主任珍妮·帕特森（Jeannie PATERSON），电气电子工程师学会（IEEE）前常务理事康斯坦丁诺·卡拉卡琉斯（Konstantinos Karachalios），慕尼黑工业大学人工智能伦理研究所主任克里斯托夫·吕特格（Christoph LÜTGE）应邀参加专题论坛并作精彩发言。本场专题论坛由香港科技大学助理教授、香港生成式人工智能研发中心数据科学与数据工程主管韩思睿（HAN Siri）主持。
龚克围绕人工智能的伦理治理与工程师责任进行了探讨。他指出，工程伦理是人工智能发展的基石，它构成了人工智能发展的核心。人工智能的伦理框架需要底线来执行，它没有商量的余地，这样才能确保技术在发展的同时不偏离基本的道德原则。因此，我们要加强人工智能伦理教育、更新伦理准则、开展工程师培训，将人权、多样性、可持续性、和平与干预等核心价值观融入到工程实践中，将科学知识、技术方法与伦理原则相结合以解决实际问题。龚克强调，我们要将治理与规制区分开来，实现对单纯规制的超越；一方面要通过工具应用加速实现人类可持续发展目标，另一方面要以技术创新支撑法规落地实施。
龚克发言
李婉诗（Lee Wan Sie）指出，人工智能的部署和应用要将伦理原则与工程实践相结合。对此，新加坡始终关注法规的可操作性，并通过与各个行业合作制定了伦理框架，以确保创新与规制之间的平衡，并使法律法规成为促进创新的工具。她认为，量化指标和基准测试是评估人工智能系统的核心手段。新加坡相关部门通过开发系统性的测试框架，帮助企业证明其是否符合伦理标准，并为企业提供了识别和应对风险的路径，未来新加坡还会对该框架进行动态调整，确保技术使用的安全性和可靠性。最后，李婉诗强调，新加坡正在研究使用量化工具，对风险进行评估，并将政策与技术同步更新，根据实际需求不断迭代；将继续加强国际交流与合作，使政策对技术发展具有指导意义。
李婉诗发言
珍妮·帕特森（Jeannie PATERSON）提出，由于在人工智能治理价值谱系中，不同价值存在竞争关系，我们在抉择时往往难以面面俱到。如果我们想要隐私，那么可能难以顾及到安全；如果我们内容的准确性，那么就可能会失去普适性，在决策过程中，人们的注意力发挥着作用，因此进行深度的伦理思考非常重要。她特别以食品安全问题进行了类比。在食品质量保障中，我们运用标准指南通过“打标签”的方式，向公众传达种类、配料等具体信息，这种方式人工智能治理提供了参考。珍妮·帕特森认为，公众认知是解决伦理和政策问题的基础，我们需要帮助公众理解技术原理及其局限性，使那些受技术影响的群体参与到政策讨论之中；国家之间要强化沟通交流，共享治理经验。最后，珍妮·帕特森强调，我们在对技术进行治理和监管时，一定要保持非常谨慎的态度，做到具体问题具体分析；要真正明白我们的需求、解决的问题及所处的情境。
，
珍妮·帕特森发言
康斯坦丁诺·卡拉卡琉斯（Konstantinos Karachalios）回顾了电气电子工程师学会在人工智能技术标准制定方面的历程和进展。他指出，基于标准的治理是人工智能有效治理的基础，电气电子工程师协会于十余年前开始制定相关标准，目前这些标准已覆盖到算法偏见、问责制、透明度、隐私保护等广泛领域，成为人工智能治理框架的重要组成部分。他进一步指出，面对社交媒体、算法推荐等对社会的负面影响，人工智能治理更加显示出紧迫性。一方面，要在技术设计与开发阶段就引入治理机制，通过负责任商业模式设计，实现技术社区内部的范式转变，而不能仅仅关注技术优化而不考虑其使用后果；另一方面，要做到全球治理与区域协调之间的平衡，我们既要在全球范围内制定普适性规则，也要允许各地区根据自身文化和需求调整实施细则。
康斯坦丁诺·卡拉卡琉斯发言
克里斯托夫·吕特格（Christoph LÜTGE）首先对慕尼黑工业大学人工智能伦理研究所进行了介绍。该研究所采用跨学科方法，整合技术、伦理、法律、商业等领域的专家合作，致力于开发可信赖、负责任的人工智能指导方针和工具，并与全球范围内的合作伙伴密切交流。然后，他分享了两个创新项目：一是“alignAI”项目，该项目涵盖欧洲五所大学，聚焦研究生成式人工智能的伦理问题。二是“MoralPLai”项目，该项目旨在通过生成式人工智能创作生成戏剧，以科学与艺术相结合的方式传播AI伦理研究成果。这些项目展示了生成式人工智能在艺术、科学传播和教育中的巨大潜力，并为跨学科合作提供了新的思路。最后，克里斯托夫·吕特格强调，目前人工智能伦理治理正在从理论探讨向监管和框架设计过渡，尽管各国在某些方面存在重叠，但仍然存在显著差异。
克里斯托夫·吕特格发言
清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。
新浪微博：@清华大学人工智能国际治理研究院
Bilibili：清华大学AIIG