齐向东:三大策略破解AI“三化”危机

潮新闻客户端 记者 张云山 柳蓬

在2024年世界互联网大会乌镇峰会上,“人工智能”成为万众瞩目的焦点。网络安全技术发展与国际合作论坛上,来自全球网络安全技术领域的政、产、学、研嘉宾齐聚一堂,围绕“智能向善,人工智能安全风险与治理”的主题展开热烈讨论。

全国政协委员、全国工商联副主席、奇安信集团董事长齐向东在会上发表主题演讲,针对AI面临的黑箱化、黑产化、武器化“三重危机”,提出了三大安全策略,为AI的健康发展保驾护航。

图片

奇安信集团董事长齐向东发表主题演讲。

齐向东表示,人工智能的“三化”危机正日益加剧。AI黑箱化导致内容生成良莠不齐,攻击者可以轻易利用漏洞篡改大模型输出内容,甚至直接瘫痪模型。在今年的实网攻防演练中,奇安信攻击队就成功攻破了某AI大模型,展示了这一风险的严峻性。

AI黑产化更是让深度伪造泛滥成灾。不法分子利用AI技术伪造图像、音视频等内容,实施诈骗,公众和企业深受其害。齐向东指出,深度伪造技术已经成为网络诈骗的新手段,必须引起高度重视。

至于AI武器化,更是让黑客攻击愈演愈烈。人工智能可以生成恶意软件、钓鱼邮件,快速发现目标系统中的漏洞,大幅降低网络攻击门槛。不懂代码、不懂技术的普通人也能借助AI成为黑客,网络空间的安全形势愈发严峻。

面对这些挑战,齐向东提出了三大安全策略。首先,要通过多维度体系化防护,确保AI大模型在基础运行环境、训练环境、API接口以及数据安全等方面的合规性。奇安信打造的大模型卫士和AI安全整体应对方案,正是为了解决这一问题而生。

其次,要用“鉴伪”“防伪”技术有效遏制深度伪造。奇安信自研的深度鉴伪模型能够准确识别多种前沿AI伪造技术生成的虚假图片视频,为政府执法等部门提供了有力支持。

最后,要用安全大模型反哺安全能力大提升。奇安信在内生安全体系之上,部署了自研的QAX-GPT安全大模型,不仅让大模型更懂客户业务,也让安全体系效率更高、能力更强。AI安全大模型的研判效率已经提到了人工的60多倍,实现了安全运营模式的智慧化转型。

齐向东强调,有了高效的安全治理,AI才有未来。奇安信将运用好技术优势,为AI安全治理贡献更多力量,努力为全社会营造更加和谐、更加繁荣的未来。

“转载请注明出处”