“AI内容鉴定”！国家反诈中心App上线新功能

网购时遇到商品问题，随手拍张照片申请售后，本是消费者维权的常规操作。可近期，不少电商商家反映，有买家使用AI伪造出来的“问题图”申请仅退款，不用退货还能白拿商品，这让商家叫苦不迭。

对此，部分网友推荐使用国家反诈中心App近期上线的“AI内容鉴定”功能，用户可通过上传图片、视频、音频或文本来检测AI生成痕迹，主要用于识别诈骗场景中的伪造内容。

买家以AI伪造枯黄果苗图片

申请“仅退款”

国家反诈中心App上线鉴定功能

记者体验AI鉴真工具使用效果

记者在网络上随机选取了十张商家宣称的疑似AI生成“售后图”，上传国家反诈中心App及多个AI鉴真工具，结果无一例外，均被系统判定为“图像含AI生成痕迹”。张先生提供的干枯无花果图片也被系统认定“图像含AI生成痕迹”。与之相对比，记者上传一张自己随手拍摄的照片，系统则提示“未检测到合成痕迹”。 

某网络平台安全内容视觉算法负责人兰钧介绍，检测方法由两部分组成，一部分是小模型来学习AIGC模型生成内容的模式，基于大量的内容学习和训练，然后进行判断。另外会用大模型来关注内容本身，看它内容上有没有物理上的瑕疵，比如文字有没有乱码；此外也会看它逻辑语义上是否会出现不符合逻辑的问题。最终小模型和大模型结合，一起来进行判断。

“我们希望它不要出现误识别。用户或者商家可以尝试外部的一些AI鉴真工具，来辅助进行判断。对于目前这种AIGC的技术生成内容还是比较有效的。”

业内人士：应对AI造假

核心在于“以AI治AI”

业内人士表示，应对AI造假，核心在于“以AI治AI”。目前较为成熟的鉴真工具几乎能不误伤真实内容，又能较为精准识别AI造假内容。

AI伪造图片骗取退款的行为，本质是民事欺诈，若不及时遏制，将威胁电子商务的正常秩序与健康发展。AI鉴真工具能大幅降低商家的辨别成本，既能震慑不法分子，也能作为商家与平台交涉、维护自身权益的有力证据。

北京邮电大学互联网治理与法律研究中心主任谢永江表示，现在从技术上已经有相应的AI内容鉴定工具了，平台有义务引进这种技术手段来维护平台上的交易秩序，维护商家和消费者的合法权益。