关注我们
2024人工智能合作与治理国际论坛于12月2-3日在新加坡国立大学召开。本届论坛由清华大学、新加坡国立大学和香港科技大学联合主办。其中，安远AI与新加坡的AI Verify基金会联合举办了多场人工智能安全专题论坛。
首先，介绍新加坡人工智能安全研究所的结构。今年5月，DTC被指定为新加坡人工智能安全研究所，成为新加坡人工智能安全领域的核心机构，并协同本地研究生态系统中的各种力量，与新加坡资讯通信媒体发展局(IMDA)合作，共同应对人工智能安全的各方面。作为大学的研究机构，我们的工作侧重于研究和工程方面。同时在治理层面与IMDA保持密切合作，基本上由我们IMDA的同事领导。
DTC成立于两年前的2022年10月，得到了新加坡政府的大力支持，主要关注三个领域：
隐私保护：这是人工智能和分析中的一个重要部分，因为需要收集大量数据、处理数据并存储数据。因此，采用新技术保护数据处理的隐私，成为我们几年前开始的一个重要研究方向。 人工智能安全：利用我们在隐私保护技术领域的研究成果，推动人工智能安全的发展。 去中心化：最终，聚焦于支持建立数字经济中的信任。在没有边界的数字经济环境中，传统的“信任方”概念已不再适用，因此我们也在研究如何在去中心化的环境中建立信任。
在谈到信任时，我们会涉及到责任。这意味着如果某些事情出了问题，必须有责任人来担责，这通常是信任的最基本要求。正因如此，我们需要明确识别出责任主体。所以我们也在研究去中心化身份的相关问题，这些都与数字信任以及如何支持人工智能安全生态系统密切相关。
正如我之前所提到的，这是我们在数字信任技术方面的概念性计划，指导DTC的工作。除了当前研究生态系统的能力外，我们还关注一些在建立数字经济中的信任方面的重要领域，包括受信计算，这允许组织将数据转移到第三方环境中而不泄露数据，同时仍能进行计算和信任分析，从而使多个组织可以在不泄露数据的情况下进行合作分析。我们还在研究各种类型的网络安全和可信计算，以及如何提高人工智能系统的稳健性和可信度，这是我们在智慧国家(Smart Nation)系统研究中的前期工作。
这就是我们的工作概况，当然我们也与行业组织合作，推动从基础学术研究到技术转化，再到可以在现实世界部署的成果。
今年5月，新加坡人工智能安全研究所正式成立，这一官宣得到了新加坡总理的大力支持。该研究所的设立旨在弥补全球人工智能安全科学的不足，并为新加坡制定基于科学实证的人工智能治理方案提供专业支持。这也是为什么我们与IMDA密切合作，一起推动人工智能安全的相关工作。
基于这一背景，我们总结了我们在人工智能安全领域的经验和工作：
首先，我们努力与我们的合作伙伴进行沟通，定义一个术语框架，来解释可信人工智能、负责任人工智能、安全人工智能和人工智能安全的各个概念。这个框架从纯技术层面的人工智能安全（即可信人工智能）开始，最内层是纯技术定义，即硬件、软件、系统和模型按预定方式运作，这通常是可信计算或网络安全中的标准定义。
其次，我们将社会层面或社会需求加入其中，考虑到人工智能系统作为社会技术系统的影响，涉及社会责任和用户保护等方面。这样我们就形成了“负责任人工智能”这一概念，涵盖了公平性、可解释性、问责制等方面。
最后，我们将研究范围进一步拓展至跨行业、跨国界的整个人工智能生态系统。因为目前的趋势是，随着模型规模的不断扩大，只有少数组织或国家能够构建和训练如此庞大的模型，其他组织和用户将基于这些基础模型进行二次开发。因此，如果基础模型存在任何漏洞或缺陷，风险将会蔓延到整个人工智能供应链，最终导致整个社会或数字经济的集体失败。这也是我们开始从国家或国际层面关注风险管理的原因。
目前，我们的研究重点包括人工智能模型的测试与评估、安全模型设计和部署、内容保证（结合去中心化研究）以及治理和政策（与IMDA合作）。
以上，就是新加坡人工智能安全研究所的概述和我们近期的研究重点，谢谢！
清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。
新浪微博：@清华大学人工智能国际治理研究院
微信视频号：THU-AIIG
Bilibili：清华大学AIIG