瑞士医院经常会使用来自中国等医疗器械标准与瑞士存在差异的国家制造的人工智能医疗设备，例如采用人工智能医疗影像技术识别和分析X光片的设备。 Keystone / Christian Beutler

在包括瑞士在内的人工智能(AI)监管缺位的国家，公民会面临哪些风险呢？对于一个国家的经济和人口而言，更多地对人工智能实行监管是利还是弊？法律和医学专家科尔斯汀·诺埃勒·沃金格(Kerstin Noëlle Vokinger)对此发表了看法。

人工智能(AI)正在重塑从医疗到职场等诸多关键领域的发展，但于此同时，它也带来了不容小觑的风险和监管挑战。机器何时能代替人类进行操作？又或者， 该如何在遵循不同医疗器械质量管理标准国家的医院里，采用由人工智能驱动的同款医疗设备？

尽管欧盟和美国已相继采取了不同的策略来解决这些问题，但瑞士却显得慢条斯理、进展缓慢：政府最初预计会在今年出台的人工智能监管提案，发布时间现已被推迟到了2025年。

各国人工智能立法监管进度、力度不一

2020和2021年，美国先后发布了《生成人工智能网络安全法案》和《人工智能能力与透明度法案》，在推动人工智能发展的同时，对数据隐私等多个方面提出了规范要求。然而，随着近期特朗普再次胜选美国总统，该国人工智能或迎来一轮强有力的监管“松绑”。据彭博社报道，特朗普团队计划将构建完全自动驾驶汽车的联邦框架，作为美国运输部的优先事项之一。

12月5日，特朗普宣布将在白宫设立首个专门负责A人工智能事务的职位，即“人工智能和加密货币事务主管”，这也体现了特朗普政府意图推动行业快速发展的目标。与此同时，12月10日，总统出口委员会在向拜登提交的人工智能战略报告中明确提出，“人工智能的快速发展需要政策支持，以实现负责任的增长和创新”，建议政府应出手做好人工智能与就业的平衡，简化企业的监管合规流程。

欧盟作为首个对数据经济发布单独政策的地区，对人工智能的发展及数据使用也提出了较多要求。2023年6月，在历经多次起草修订后，欧盟发布了《人工智能法案》最新草案，以确保人工智能在欧盟市场中能够安全使用。该法案是全球首部全面监管人工智能的法规，它的出台，也标志着全球首个全面的人工智能监管框架的诞生。

此外，其他国家也陆续对人工智能监管做出回应。譬如，英国、新加坡、印度等国家均相继出台了人工智能伦理和监管准则。

中国相关监管机构也有所行动。2023年7月，中国国家网信办联合六部门共同发布《生成式人工智能服务管理暂行办法》，并已于2023年8月15日起正式施行。

法律和医学专家科尔斯汀·诺埃勒·沃金格向我们详尽解释了为何需要制定针对性的法规，从而在促进创新和权利保护的内在冲突之间实现有效平衡。

科尔斯汀·诺埃勒·沃金格(Kerstin Noëlle Vokinger)

科尔斯汀·诺埃勒·沃金格拥有苏黎世大学法律和医学博士学位以及哈佛大学法学院硕士学位。她目前是苏黎世大学(University of Zurich)和苏黎世联邦理工学院(ETH Zurich)的双聘教授。她聚焦于旨在改善医疗可及性和技术获取的跨学科研究。

科尔斯汀·诺埃勒·沃金格在苏黎世大学(University of Zurich)和苏黎世联邦理工学院(ETH Zurich)教授法律、医学和技术法规。

瑞士资讯SWI swissinfo.ch：您认为瑞士需要制定人工智能法规吗？如果需要，原因何在？

科尔斯汀·诺埃勒·沃金格：我认为，瑞士目前并不需要像欧盟那样的法规，要知道，欧盟的相关法规面面俱到、非常全面，而且力求对所有人工智能技术实行横向监管。但(在我看来)更为合理的做法是采取按照多部门分配职责、各司其职的方法，针对(人工智能涉及的)各个领域存在的具体风险和机遇分别进行评估。这种做法能有效规避过度监管的问题。

长期以来，瑞士一直坚称该国不需要专门的人工智能法规，因为现有法律政策已足矣。然而随着欧盟人工智能法规的出台施行，瑞士政府改变了想法。为什么呢？(瑞士)现行法规难道还不够吗？

诚然，有一些普遍适用、涉及一般性事项的法律-也就是并非专门针对人工智能的法律规定-也同样适用于人工智能监管，比如隐私权、非歧视原则等等。然而，人工智能系统可能存在着亟待我们去解决的特定缺漏，因为这项技术与生俱来的复杂性可能会带来更多、更具体以及更极端的挑战。

譬如在医疗领域，我们需要明确界定哪些任务可以委托给机器，并相应地对我们的法律进行调整。

谈及医疗领域，瑞士医院经常会使用到由医疗器械标准与瑞士存在差异的国家所制造的集成了人工智能技术医疗设备，比如来自中国的采用人工智能医疗影像技术识别和分析X光片的设备。这些设备会给患者个体带来哪些风险？该如何对这一领域进行监管？

这无疑是一大挑战。让我列举一个更司空见惯的、有关临床试验的例子。在开发治疗药物时，我们已经明确知晓性别和种族差异可能会影响治疗效果。对于基于人工智能的医疗设备来说，情况很可能也是如此。

到目前为止，许多人工智能设备只在某一个国家进行过测试，测试地点通常是在中国或美国这样的大国。遗憾的是，迄今针对已通过审批的人工智能医疗设备的相关国际研究依然寥寥无几。(人工智能医疗设备)在那些大国获得的测试结果，对瑞士患者来说可能在有效性和安全性上都存在差异。因此，此类设备在瑞士获得授权使用之前必须要满足特定要求。

既然人工智能医疗器械在医院中已经越来越普遍，那么这是否意味着，我们也需要针对人工智能医疗设备的审批程序制定更严格的规则？

我们首先必须找出监管漏洞，并且了解这些技术会带来哪些额外或新的风险。一旦确定了这些漏洞所在，我们就需要决定在哪个层面对其进行监管-譬如是通过自我监管、还是由政府来规制和监管。在这方面，我们有多种方案可供选择。在美国，食品药品监督管理局(FDA)目前正在积极制定有效贯穿医疗设备整个生命周期，且能够与时俱进、不断适应未来软件开发进程的法规。

在该事宜上，食品药品监督管理局确保信息公开透明，并且让科学家和其他利益攸关者都参与进来，携手共同为患者制定对其最有利的政策和建议。在美国，这一领域的发展势头强劲，而反观欧洲，情势则显得不那么清晰和透明。欧盟的《人工智能法案》是一套严格的一般性通用法规，而不是针对医疗设备的特定具体规则。两个不同管辖区域的具体做法可以大相径庭。

在人工智能监管方面，瑞士能否比欧盟做得更好？还是说，瑞士会考虑到自己作为一个欧盟成员国包围之下的小国地位，尝试以自己的方式去复制欧盟的监管方法？

置身于欧盟成员国包围中的瑞士，自然不可能无视欧盟的《人工智能法案》。瑞士监管的具体事项，可能会与欧盟和美国等其他地区法规发生冲突-但这主要取决于瑞士最终决定对哪些事项实施监管。例如，医疗是一个涉及多个国家或跨越国界的领域，我们无法将自己孤立起来。这是瑞士必须面对的另一个严峻的监管挑战。

反对监管的人则认为，监管可能会扼杀创新。那么我们该如何才能在保护人权、保护消费者权益与促进创新之间取得平衡呢？

在创新与安全(包括个人权利)之间取得平衡，可谓至关重要。每个国家都必须自行决定愿意承担什么样的风险。瑞士也需要做出权衡，因为这些人工智能技术的蓬勃发展都伴随着不同程度的风险，而其产生的效果可能在不同国家或地区之间也存在偏差。

譬如，欧盟的法规不能容忍太多风险，不少法律学者就会担心此类监管法规会抑制创新。而美国(的相关法规)则以更为宽松而著称，包括在数据保护等领域也是如此。

鉴于人工智能技术超越国界，我们该如何调和各地区遵循的不同监管方法，以确保尊重人权？

重要的是在国内和国际层面上都要积极行动起来，与其他国家合作制定一致的基本原则。当然，我们知道，涉及的国家越多，就越难找到行之有效的解决方案。因此，我们不可能奢求在每个方面都达成共识。

然而，人工智能不仅带来了风险，也带来了机遇。在您看来，监管能否帮助我们更好地利用这些人工智能技术？ 

是的，我对此深信不疑，良好的法律不仅能限制风险，还能创造有益的机遇。这可以通过各种方式来实现，比如投资新软件和应用程序，或者将技术更好地融入教育系统或社会。法规具有不同的功能，它们不仅发挥预防作用，还能起到促进效果。

譬如在医疗领域，人工智能工具将变得越来越精确，从而有可能取得某项重大进展。就以放射学为例，人工智能可以极大地节省时间和人力资源，让医务人员把有限的精力聚焦在复杂的病例上。

由于人工智能正在快速发展且在某种程度上难以预测，因此我们必须保持警惕，找出监管漏洞，并制定有助于降低风险和善用机遇的法规。

• 为人工智能立法：瑞士还有机会吗？

• 与欧盟相比，瑞士员工在人工智能风险方面受到的保护稍逊一筹

• 人工智能如何影响瑞士创意工作者

• 瑞士在人工智能监管方面走到哪一步了？

(文中最下端的相关文章)