“人工智能作为新一轮科技革命和产业变革的重要驱动力量,是推动科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源……”1月13日下午,杨浦“大厂人”齐聚长阳创谷,“何以杨数浦”数字经济合规发展品牌沙龙第二期活动在此举行。
活动围绕“多视角下的人工智能大模型可信治理”主题,邀请专家聚焦人工智能安全合规领域开展深入交流,吸引了一批人工智能、数字经济领域企业的参与活动。
活动上,安永联合上海市人工智能与社会发展研究会重磅发布了《可信人工智能治理白皮书》(以下简称《白皮书》)。安永风险管理与决策创新咨询服务合伙人张楠驰登台,深入解读了《白皮书》的关键内容,并指出在人工智能领域,信任是至关重要的基础。可信的人工智能不仅要在技术上表现出可靠性,更应在伦理道德上经得起考验,它必须在尊重人权、保护隐私、确保公平正义的前提下,为社会带来正面的影响。因此,构建一个全面且有效的AI治理体系,对于确保人工智能技术的健康发展至关重要。
《白皮书》主要对比分析了欧盟、美国和中国的AI治理体系,探讨了AI技术的发展趋势和监管动向,并提出了以安全、公平、透明为基石的9项可信人工智能发展原则;分享了企业级AI在算法、内容、资质等方面的合规责任和操作指南;提出了优化覆盖AI全生命周期的风险治理策略,并推出了企业AI治理进阶工具;调研了汽车、零售等百家企业在中国的AI应用现状、治理现状以及面临的挑战。
嘉宾分享环节,来自上海赛博网络安全产业创新研究院的高级研究员李宁深入解析了《关于人工智能“模塑申城”实施方案》,并对上海在推动人工智能领域政策支持方面的具体措施进行了详尽的阐释。她表示,该方案特别聚焦于金融、制造、教育、医疗、文化与旅游、交通以及城市治理等多个关键领域,通过建立智能算力集群、语料库体系、虚实融合实训场以及行业基座大模型等关键基础设施,进一步推动人工智能大模型在垂直行业的广泛应用。
来自上海市信息安全测评认证中心创新研究院的项目主管范劭林,则以“生成式人工智能服务合规工作指引”为主题进行了分享,强调企业应对已备案的基础模型及其生成内容的安全性、准确性和可靠性进行定期评估,以确保生成内容符合科学常识和主流认知,从而降低错误内容的产生风险。此外,企业还需定期检查其在服务透明度、用户信息保护、服务稳定性等方面的安全措施是否充分。
在企业案例分享环节,Uplifeting创始人兼首席执行官佘汀涛、虚沅数(上海)网络信息科技有限公司创始人高海宁分别围绕“从中国制造向中国设计转变”“大语言模型私域化与数字员工应用开发”两个方面,分享了企业在AI大模型方面的实践。
在答疑交流环节,与会嘉宾紧密围绕人工智能的安全合规管理、发展方向以及未来趋势等议题,深入探讨了企业在人工智能开发与应用过程中遇到的关键难题。
“在人工智能安全方面,我们常有疑问,比如当与人工智能对话时,我输入的企业信息是否有泄露风险?如何才能拥有人工智能安全保障?这场沙龙就给了我们一个交流探讨和答疑解惑的机会,从专业的角度,把人工智能的相关知识和前沿信息分享给我们,对我们的工作很有帮助。”上海微谱检测集团科技股份有限公司事业部总监赵佳林说。
本次活动由上海市杨浦区委网信办主办,上海赛博网络安全产业创新研究院承办,上海启迪之星、杨浦区互联网发展协会、上海社会科学院互联网研究中心、安永(中国)企业咨询有限公司共同协办。
破解难题 护航发展
据悉,自2024年12月启动以来,“何以杨数浦”数字经济合规发展品牌沙龙采取线下形式,每月1期,共计12期,主要面向杨浦区及上海市数字经济企业管理层、法务、技术等相关从业人员,围绕数据经济合规有关主题,邀请产学研机构专家进行分享交流。接下来,“何以杨数浦”数字经济合规发展品牌沙龙将继续开展,为杨浦企业的发展和数字经济的蓬勃提供服务。
往期推荐
+
文字/图片:汤顺佳
编辑:周梦真
*转载请注明来自上海杨浦官方微信