从被动监管到主动准备：新加坡代理型AI（Agentic AI）系统和量子计算的治理战略布局

新加坡网络安全局（Cyber Security Agency of Singapore CSA）今年10月在其官网上发布《SECURING AGENTIC AI：An Addendum to the Guidelines and Companion Guide on Securing AI Systems》。该附加指南并非一份全新的框架，旨在解决由自主决策和执行的AI系统（即AI智能体） 带来的独特安全挑战，是对新加坡CSA于2022年发布的《保护AI系统指南》的补充和增强。

与传统监管理念不同，新加坡没有坐等技术成熟后再出台法规，而是选择了一种更具前瞻性的模式：“主动准备”。这背后的逻辑是对带来范式变革的技术，提前构建治理框架、安全能力和公众信任，抢占未来产业和安全的制高点。

代理型AI系统可以自主运行，可以无需直接人为干预，做出决策和采取行动。这种能力虽然有望增强人们处理事务的能力，甚至有可能提升公共服务的能力，但在系统发生故障或行为不可预测时，会引发复杂的问责和责任问题， 

附加指南精准地指出了智能体的核心挑战，“在没有直接人工干预的情况下”自主决策和行动的智能体AI应用，会带来全新的问题：当智能体行为出错或造成损失时，谁负责？（责任归属问题）和可能出现数据泄露等不可预测的后果（风险失控问题）。比如在金融行业的场景下，由智能体做出的交易执行决策带来不可控的市场系统性风险。

为了应对这些新问题，新加坡没有“一刀切”地禁止，而是在现有框架的基础上，通过附加指南，补充要求对智能体的工作流程进行映射、评估漏洞以及在开发和部署全过程实施安全控制这三项额外措施。

为此，新加坡正在从实践中探索和学习如何更好地进行智能体治理。比如与谷歌云合作的治理沙盒，让公共部门可以在相对风险可控的环境中测试智能体AI能力；同时采用“行业分类”方法，对医疗、金融等高风险决策进行更严格的审查和验证标准。目前形成的共识是尽管AI智能体高度自治，但是人类必须保留最终责任。

除了人工智能，量子计算也带来了同样深刻的颠覆：打破当前普遍使用的加密系统的潜力。这种威胁不是遥远的科幻，而是迫在眉睫的系统性安全风险，危及从金融交易到国家安全的一切。比如目前存在一种“现在收获，以后解密”的攻击风险，即现在窃取加密数据，等到量子计算成熟后再解密，意味着当前所有的敏感数据，从个人金融信息到国家机密都将不再安全。

考虑到这些风险，新加坡CSA于10月推出了两项工具，指导公司和公共部门评估加密系统安全性和规划量子安全迁移路径。自我评估工具“Quantum Readiness Index”（ 量子就绪指数） ，帮助公司和公共部门自我评估自身应对量子计算冲击的准备情况，并规划向量子安全系统迁移的路径。“Quantum-Safe Handbook”（《量子安全手册》）由新加坡政府科技局和资讯通信媒体发展局以及科技公司、网络安全咨询顾问和专业组织共同编撰，为关键基础设施所有者提供清晰的迁移指南，涵盖风险评估、治理和技术等关键领域。

人工智能附加指南和量子的两项工具目前都在网站上公开征询公众反馈。这些举措背后，反映了新加坡政府在应对新兴并快速迭代的AI和量子技术风险上的战略意图：强调前瞻性而非被动反应，在Agentic AI和量子计算的风险全面显现之前便通过发布安全指南和迁移手册率先采取行动；体现务实性而非空谈，借助沙盒实验、量子安全手册及就绪指数等具体工具，将宏观战略转化为可落地的实践方案；坚持精准性而非“一刀切”，采用分行业治理方法，对金融、医疗等高影响领域实施更强保障，巧妙平衡创新激励与风险管控；注重国内跨部门协同，以及国际上积极与科技巨头及多边组织联盟，推动治理标准的统一与互认；并始终以人为本，将社会公众信任和安全置于核心，确保所有技术演进最终服务于社会福祉，而非本末倒置。这种思路和做法为各国政府思考如何构建兼具创新活力与风险韧性的治理体系提供了颇具价值的参考。

（作者系中关村互联网金融研究院高级研究员）