探营世界互联网大会“互联网之光”博览会:看AI如何打败AI

极目新闻记者 潘锡珩

上传一张照片,就能利用AI技术鉴别照片是不是其他AI的伪造品;不法分子使用了AI换脸技术,也能被AI精准识破。

11月19日,2024年世界互联网大会乌镇峰会开幕,人工智能再次成为热议话题。在“互联网之光”博览会的蚂蚁集团展台,极目新闻记者注意到,AI能够帮助我们识别图片是否经过AI创作,还能堵上AI换脸带来的安全漏洞。

图片

过去一年,全球人工智能技术发展迅速,正在成为新一轮科技革命和产业变革的重要力量。今年的世界互联网大会聚焦于人工智能技术、产业发展及其对人类经济社会的影响。

蚂蚁集团展台工作人员介绍,当大模型和AI智能体带来前所未见的智能体验,模型内部幻觉、安全漏洞和深度生成内容伪造等问题也带来了新的挑战。蚂蚁集团的“AI鉴真”工具,可以实现用AI打败AI。

用AI生成一张照片或一段视频,这在技术上被称为深度伪造,常被犯罪分子用于诈骗勒索。蚂蚁正通过蚁天鉴和ZOLOZ等安全技术产品加强对图像、视频的鉴真能力。

蚁天鉴不仅支持图像、视频等多模态内容真实性及深度伪造的监测,还支持大模型X光、大模型基础设施测评、应用安全测评、围栏防御等技术能力。

极目新闻记者现场从图库中选择了多张照片,仅用几秒,蚁天鉴就可以准确识别出图片或视频片段的真伪,明确告诉记者是否经过了AI创作。此外,还可以通过纹理、光影、文字等细节,鉴别营业执照等证照的真实性。

图片

而ZOLOZ技术则更专注于攻克AI换脸难题,其人脸识别准确率达99.9%。在现场,极目新闻记者用手机拍摄本人头像照片后,AI将这张照片合成为戴眼镜和露齿笑两张照片,以及包含眨眼、张嘴等动作的活化视频,十分具有迷惑力。搭载ZOLOZ技术的手机通过前置摄像头的逐一识别,很快鉴别出原始照片,给深度伪造的照片及视频打上醒目标签。现场多位观众多次尝试,都没能混淆ZOLOZ的判断。

工作人员介绍,目前ZOLOZ已为中国、印尼、马来西亚、菲律宾等24个国家和地区提供技术服务,涵盖金融、保险、证券、信贷、电信、公共服务等多个领域,累计服务用户超12亿。

“蚂蚁AI智能体的技术底座,就是我们的‘认知决策智能体技术创新与应用’。”现场工作人员介绍。该技术底座以万亿参数可信大模型“蚂蚁百灵大模型”为基础能力,结合高性能知识决策引擎技术,使得大模型在决策时更准、更可靠、更安全,就像为大模型装上了可信的大脑。

(来源:极目新闻)

更多精彩资讯请在应用市场下载“极目新闻”客户端,未经授权请勿转载,欢迎提供新闻线索,一经采纳即付报酬。24小时报料热线027-86777777。