“法治保障人工智能向善发展”学术沙龙顺利召开｜IIA新闻

大湾区评论

2024-10-29 20:30发布于中国香港

2024年10月25日下午，“法治保障人工智能向善发展”学术沙龙暨《我们，机器人？人工智能监管及其法律局限》中译本发布会在徐汇区模速空间成功举行。本次活动会由华东政法大学国际法学院、上海市徐汇区司法局、上海市徐汇区法学会主办，香港中文大学（深圳）国际事务研究院、华东政法大学涉外法治研究院、华东政法大学金砖国家法律研究院、《法学》（英文版）编辑部协办，逾百位专家学者莅临参加。

学术沙龙围绕“法治保障人工智能向善发展”为主题展开，分为三个单元：“人工智能向善发展与法治建设”“人工智能法治建设的国内-国际双向协调”以及“《我们，机器人？人工智能监管及其法律局限》中译本发布会”。

PART 1：

人工智能向善发展与法治建设

本单元由《清华法学》编辑部主任徐雨衡主持；致辞嘉宾有上海市法学会党组成员、秘书长夏咸军先生以及华东政法大学国际法学院院长兼涉外法治研究院执行院长杜涛教授。

徐雨衡主任在开幕欢迎辞中对各位领导、代表以及现场的来宾表示热烈的欢迎，介绍了本次学术沙龙举办的背景信息与重要意义。

徐雨衡主持（图源：主办方）

夏咸军秘书长首先代表上海市法学会对本次活动的开展表示热烈祝贺，随后表示人工智能作为引领新一轮科技革命和产业革命的重要驱动力，目前仍在快速发展，可能存在较大风险，应当在法治层面保障人工智能向善发展，最后预祝本次活动取得圆满成功。

夏咸军致辞（图源：主办方）

杜涛院长随后发表致辞，代表华东政法大学国际法学院感谢各位嘉宾莅临；指出《我们，机器人？人工智能监管及其法律局限》的英文版本和中文版本发行的重要意义；以人工智能法律规制如何保障高科技企业持续发展角度为切入点，提出监管领域的选择以及监管强度的平衡怎样把握，国家之间应该如何建立合作关系、避免滥用制裁等相关热点问题。

杜涛致辞（图源：主办方）

致辞结束后，钟冰松处长、杜涛院长和左静鸣局长共同为涉外法治专业人才培养基地揭牌，并向《我们，机器人？人工智能监管及其法律局限》的两位译者——游传满博士和费秀艳博士颁发了翻译专家顾问聘任证书。

涉外法治专业人才培养基地揭牌仪式（图源：主办方）

向游传满博士和费秀艳博士颁发了翻译专家顾问聘任证书（图源：主办方）

新加坡国立大学副校长陈西文教授（Simon Chesterman）发表主旨演讲围绕“Whether, When, How, and Why to regulate AI?”展开，简要介绍了人工智能发展带来的机遇、对传统规则产生的挑战，以及就为什么需要对人工智能进行监管、由谁来监管、怎样进行监管等一系列问题。

陈西文发表演讲（图源：主办方）

陈西文教授首先强调了人工智能技术的革命性潜力，它在医疗、教育、经济等多个领域展现出巨大的可能性。然而，他同时指出，人工智能的发展同样伴随着风险，包括对人类文化的冲击和对传统监管模式的挑战。他通过人工智能可能用于毁灭人类这样一个例子，来阐述他的观点：“我并不担心机器本身，而是担心人类如何使用这项技术。我们需要监管的不是机器，而是使用这些机器的人类、公司和国家。”

陈西文教授进一步指出，人工智能推动了文化融合，这可能导致某些文化的消失。对小国而言，这种文化多样性的丧失尤为令人担忧。他强调，人工智能可能会平均化人类经验，从而失去文化的独特性。在他回顾人工智能的历史时，陈西文教授提到了非理性的繁荣和过度乐观的期望。他指出，尽管人工智能有潜力改变世界，但它也有局限性。“我们需要意识到，人工智能的发展需要在创新和责任之间找到平衡，以确保技术的进步能够造福全人类，而不是成为新的威胁。”

陈西文教授在分析监管问题时指出，尽管大多数现行法律能够适用于人工智能，人工智能的特殊性仍带来了新的挑战。他提出了三个主要的监管难题：速度、自主性和不透明性。人工智能系统的快速决策、自主操作能力以及其决策过程的不透明性，都对现有的法律体系提出了挑战。他通过具体案例，如高频交易算法和自动驾驶车辆，展示了这些挑战如何在实际中体现。

最后，陈西文教授强调了国际合作在人工智能监管中的重要性。他提到，由于人工智能技术的全球性，单一国家的监管努力可能难以产生效果。他比较了美国、欧洲和中国不同的监管策略，并强调了找到合适的监管时机和方式的重要性。他提出了多种国际合作模式，包括联合国等全球性组织的作用，以及区域性组织和多利益相关者协调机构的可能性。他提倡建立一个国际性的人工智能监管机构，以确保全球范围内的监管一致性和信息共享。

PART 2：

人工智能法治建设的

国内-国际双向协调

本单元由华东政法大学费秀艳副研究员主持。陈西文教授和与谈嘉宾依次就人工智能法律规制问题发表观点与感悟，并就相关提问作出回应与解答。

费秀艳主持（图源：主办方）

上海交通大学凯原法学院教授沈伟首先讲到了关于法学研究者的一个有趣现状，国际法学者倾向于把国际法作为解决人工智能问题的唯一办法，然而，刑法、民法、数据信息法等部门法学者在此问题上倾向于保留本国法律的管辖权。他也提到了上海数据交易所，该机构旨在推动国内外企业开展数据跨境流通业务合作，实现全球数据互联互通。他对陈西文教授认为的欧盟（民众权利本位），美国（自由主义）、中国（国家安全优先）的人工智能监管侧重情况表示了认同。他还提及了中国等28国、欧盟签署《布莱切利宣言》首个全球性人工智能声明，标志着欧盟立法注意力的转向。最后，沈教授补充道，主要的人工智能产业国家对监管分歧依然巨大，相关合作任重道远。

沈伟发表演讲（图源：主办方）

华东政法大学副教授韩旭至指出，近年来中国对数据跨境问题非常关注，特别是在上海。在数据跨境过程中，存在涉及国家安全、敏感数据的不同机制和评估标准，导致监管上的挑战。数字社会的到来可能带来法律机制的变化，传统网络制度在数字社会下可能不再适用。同时，他强调了人工智能在全球数字契约中的国际合作重要性，以及中国在监管科技和社会主义核心价值观方面的努力。中外在这些问题上的立场非常接近。韩旭至认为，在此问题上中外应加强合作，共创可信人工智能的未来。

韩旭至发表演讲（图源：主办方）

香港中文大学（深圳）副研究员游传满首先表达了对各位嘉宾和出版方的感谢。随后，他谈到了翻译工作中的挑战，特别是在翻译具有扩散性思维的小说时，需要平衡优美的英文表达和中文的准确性。因此，他鼓励同学们在读完陈西文教授著作的中文版之后，直接阅读英文版的原著。最后，他邀请陈西文教授分享从求学到国际组织任职、再回到学术研究和担任学校领导职务的个人经验。

游传满发表演讲（图源：主办方）

上海数科律师事务所执行主任陈媛女士强调了律师在人工智能法治建设中的重要作用，并提出了具体的行动方向。她认为律师可以通过参与立法、提供合规指导、解决纠纷等方式在国内层面发挥作用；同时，在国际层面上，通过了解和对接国际规则、提供跨境法律服务以及加强国际交流合作，推动人工智能领域的健康发展。此外，她还提到了徐汇区司法局牵头的MTCC徐汇协议，这是一个重要的平台，有助于促进国内外律师事务所之间的常态沟通和合作，从而推动人工智能法治建设的进步。

陈媛发表演讲（图源：主办方）

华东政法大学特聘副研究员吴尚轩的发言主要围绕人工智能特别是大型语言模型的发展及其带来的挑战展开。他强调了监管和协调机制的重要性，以确保技术的健康发展。他还提出了人工智能商业公司是否不仅仅关心利润，还会寻求权力的问题。此外，他还提到了规制人工智能的知识来源问题，并讨论了知识共享和跨学科平衡的必要性。最后，他指出了可持续性在技术发展中的重要性。

吴尚轩表演讲（图源：主办方）

华东政法大学学生代表陈果同学的发言主要围绕人工智能的伦理、创作能力和法律地位展开。她引述了陈西文教授对人工智能在军事项目和决定人类生死的应用中的反对态度，并提出了关于生成式人工智能生成内容的原创性和知识产权的问题。她还探讨了未来如果无法通过图灵测试区分人工智能和人类时，是否需要为人工智能设定某种法律地位。

陈果发表演讲（图源：主办方）

陈西文教授回应和总结了会议中的问题。陈西文教授分享了自己在澳大利亚的成长经历以及在北京一年生活的经历。得益于自己在国外的生活经历，陈西文教授开始了对比较法的研究。他的有趣经验是，不在自己的国家反而让他学到了很多关于自己国家的知识。此外，他描述了人工智能在现代社会中日益增长的影响力，并分析了如何在法律框架内有效监管这些技术。他首先指出，人工智能的发展与政府的监管能力之间存在严重的差距，政府常常难以理解和管理比其更强大的科技公司。他提到，人工智能研究和开发逐渐从大学转向企业，这意味着许多重要的实验和创新在缺乏充分监管的情况下进行，增加了潜在风险。具体表现为：企业非为长期科研而利用人工智能，而是利用人工智能谋取短期利益，如替代人类劳动者和捕捉人们的信息注意力。因而依靠人工智能巨头自我监管这种软监管是不切实际的，由此就需要国家的硬监管发挥作用。然而，国家有自身的国际竞争利益考量，在这种情况下，标准制定组织和政府应当通力合作，致力于人工智能监管尺度的统一。在谈到人工智能的知识产权问题时，陈教授指出，关于机器生成内容，在大多数法域，并不为操作者所有，但中国有相反的判例。在有关人工智能的法律人格的讨论中，陈教授认为人工智能有被赋予法律人格的现实可能性，但惩罚人工智能背后的人类责任者具有重要意义。最后，陈教授提到，与其争论人工智能的法律人格问题，不如担心人工智能的能力超过人类后，其是否认可人类的法律主体地位。尽管如此，他补充道，此种终结者式的未来预期仍旧停留在科幻小说领域。