划重点
012024年香港警方披露首起涉及AI“多人换脸”诈骗案，受害人先后转账2亿港元到不同账户后才察觉不对劲。
02利用AI深度伪造技术，犯罪团伙从公开渠道获取影像资料，合成虚假高管视频。
03除此之外，AI鉴酒、烟、包高价产品往往假货丛生，已有企业专门成立了“打假办”。
04然而，AI鉴假师在黄金等特殊品类上面临挑战，因为造假成本较低且难以介入。
05专家建议，AI鉴假应具有较高准确率，并在自动识别为假货后辅以人工审核，以降低执法错误风险。
以上内容由腾讯混元大模型生成，仅供参考
想象一下,你是一名跨国公司的财务，总部首席财务官发起视频会议。参会露脸的都是你熟悉的公司高管，安排你转账，你会犹豫吗？
2024年年初，香港警方披露首起涉及AI“多人换脸”诈骗案，受害人先后转账2亿港元到不同账户后才察觉不对劲。除了财务是本人，所谓视频参会高管都是假的——犯罪团伙从公开渠道获取影像资料，利用AI深度伪造（deepfake）技术，精心合成。
AI换脸变声的门槛越来越低，“孙燕姿”唱《泪桥》、“张文宏”直播间卖蛋白棒、“泰勒·斯威夫特”头像被用于制作色情照片……
2024年12月25日，在南方周末主办的一场直播对话中，中国作家协会科幻文学委员会副主任陈楸帆担忧，AI合成渗入生活，或许仅剩面对面的交谈成为无真相时代“最后的净土”。
有图有真相的历史被终结，也给诈骗分子可乘之机。不同的统计报告均指出，2023-2024年，利用AI伪造诈欺的案件数量和涉案金额激增。而AI鉴假的商业赛道也越来越挤，这些鉴假AI应用背后的基本原理基本类似，用大量且准确标注的图片数据训练。
虚假与真实是一场没有尽头的军备竞赛。AI可鉴假，也可学真，鉴假的AI会不会被有心之人用来造假？
鉴假脸
靠近镜头，眨眼、张嘴、转头——这是登录人脸识别系统最常见的提示，以区分屏幕面前是动态的人，还是一张静态的照片，抑或是一副面具。然而，AI的出现，让虚拟与真实的博弈变得更加残酷。
AI换脸，是指通过深度学习模型，如卷积神经网络（CNN）提取人脸的关键特征，再利用生成对抗网络模型（GAN）生成人脸。
“现在常见的造假脸手段是文生图、文生视频；或者利用算法和模型，把图像人脸变成动态效果。”瑞莱智慧（RealAI）联合创始人萧子豪对南方周末记者介绍。2024年，视频类的AI诈骗数量激增，实时视频换脸，一般是播放事先做好的AI换脸视频，或是接入实时换脸视频。
瑞莱智慧创办于2018年，从事AI安全与伪造内容检测，客户来自安防、政务、金融、教育等领域。萧子豪毕业于清华大学计算机系，研究AI模型的漏洞问题与攻防训练。
如何鉴别假脸？瑞莱智慧推测换脸类App背后的算法模型，以了解反常识之处。比如两只眼睛是否对称？瞳孔是否圆的？视频中人物是否长时间不眨眼？
某些AI还不能理解“瞳孔应该是圆形”的生物知识。放大图片，左边图片瞳孔为圆形，右边不是。所以左边为真人，右边为假。
重视保密的机构比如政府、银行等已经陆续用上了防换脸的AI安防系统，但是个人用户还在“裸奔”，暴露在虚拟诈骗的风险下。
To C的市场潜力很大，但难点不是技术，而是个人隐私保护等因素。个人用户碰到假脸诈骗的场景，往往是在实时进行的电信通话、社交软件、网页浏览等私域场景中，AI鉴假师想要“进入”并提示，很难。
目前较为可行的路径是，结合现有的黑名单制度，通过短信通知等手段，提示个人用户AI假冒风险，再由用户主动上传截图、视频录屏和音频进行检测。显然，当用户花心思主动检测，说明这起AI诈骗已经露馅。而且事后检测效果不如实时提示，很多老年人也不会如此复杂的操作。
担忧自己的脸被用作他途，很多人默默在社交平台删除正面照，甚至连出门也要戴着口罩和帽子。
中国政法大学比较法学研究院教授、北京知识产权司法保护研究会副会长刘文杰认为，社交媒体高度发达，个人晒照片，会议发布照片，已成为常态，要求每个人对照片予以保密或事先进行模糊处理，不现实，“更可行的是要求平台保护个人信息，并合理预防他人进行大规模的人脸信息收集”。
鉴酒、烟、包
高价产品往往假货丛生，已有企业专门成立了“打假办”，比如茅台集团打假行动持续了几十年。但“自制假茅台被鉴定为真”事件引发轩然大波。
2024年6月，河南电视台记者在电商平台购买了回收的茅台酒瓶、瓶盖等，自制了兔年茅台假酒，结果湖北一家茅台打假办居然鉴定为真。茅台集团后来回应，当时鉴定员鉴定失误，后派专家再次鉴定为假，并承认利用回收包材制作假冒产品是痛点。
直击痛点，以图鉴假的AI应用不断涌现，价格在几元到几十元/次不等。
“经常喝茅台的一喝就知道真假，试想一下，朋友聚会推杯换盏，发现是假茅台，场面太尴尬了。”唐平中感慨道。
唐平中是人工智能科学家，曾为多家电商平台设计流量分配与广告定价算法。2018年，他在清华大学教书期间创立了“图灵深视”，为第三方鉴定服务商，既面向字节、闲鱼等大平台，也为个体消费者服务，业务涉及包袋腕表、美妆日化、鞋服、名酒、JK制服、卡牌玩具等。
令唐平中印象深刻的是，有的商品真假难辨，从业多年的鉴定师也摸不准。“有个爱马仕包AI鉴定为真，但五个持证的鉴定师都认为是假，最后我们找了一位有丰富实战经验的鉴定培训导师——这个领域最权威的人士之一，才确认就是真包。”
鉴定一只包的真伪，人类鉴定师需要掌握这个品牌全系列包袋的知识，比如不同的皮质、缝合、走线、锁扣，以及防伪标识或芯片等，鉴定过程耗时一般需半小时以上。而AI“吃”进几张照片，几秒钟就能“吐”出结果。
AI的快速识别能力，已经被一些市场监管部门重视，用于现场快筛。公开资料显示，成都市新都区、贵阳市、寿光市烟草专卖局等都用上了AI智能鉴烟设备，现场稽查效率显著提升。
2023年3月1日，长春，二手奢侈品鉴定师在给包做鉴定。
真品太贵，假货获取也不易
目前鉴假AI应用背后的基本原理类似，痛点也类似：一是收集样本很难，真品太贵，假货获取也不易；二是图片需要有专业鉴定师精准标注，也很难。
以飞天茅台为例，需要采集的照片包括酒的外观、瓶顶、瓶帽喷码、飞天标、背标、瓶底等，专业鉴定师要标注的数据包括颜色、大小、字体、粗细等细节。
AI鉴烟的训练过程类似，珠海乾弘智劲科技有限公司和广东烟草合作过，该公司项目总监宋劲贤介绍，研究团队需要逐一采集真品卷烟的文字、标识码和图像信息；再进行图像的预处理,包括去噪、图像增强、边缘检测等；最后从预处理后的图像中提取关键特征,例如卷烟包装上的标识、文字、图案等信息。
同品牌不同包装或规格的香烟有多种，每一种都需要研究人员在不同的场景采集烟盒六个面的照片，涵盖不同光照强度、噪点色差、干燥潮湿度，采集加迭代的照片数量近万张。
常见的一条软盒中华香烟要近一千元，购买真烟烧钱；处理数据的算力也烧钱。
认识正品还不够，AI必须还得了解假货套路。为使模型不偏真或偏假，唐平中介绍，样本数量不仅要大，且真假数据最好均衡。
“而假货更不好收集。”宋劲贤说。假烟也是机械化生产，往往真假掺卖，比如长条外包装是真品，但里面的盒装或者根装香烟是假货。因此，研究团队需要分析烟草局稽查员收缴的假货，掌握假货最新趋势。
为获取假货数据，图灵深视的解决办法是，初期选择和机构或平台免费合作，先获取一定规模的数据样本，再利用AI领域热门的强化学习技术，生成贴近现实场景的假货样本，以子之矛，攻子之盾。AI如何生成最好的“假货”，可以说是每家公司技术团队的独门秘籍。
获取数据后，需要专业鉴定师标注数据，但这一行人员紧张，持证的更少。和图灵深视合作的鉴定师有数千名，大多持有中检等官方机构的证书，平台会根据他们的资历、历史鉴别成绩自动评级。
黄金难鉴
流通多、造假便利、监管难的商品，更适合AI鉴定师。一些特殊品类，AI还难以介入、发挥优势，比如黄金。
2024年，沪金涨幅接近30%，很多消费者望而却步，加之结婚率走低等因素，金店遭逢闭店潮。
金价跟随市场波动，但黄金的颜色区别不大，哪个角度看都是金色的，只有款式和克数不同。
黄金造假成本也不低。“仿冒黄金饰品很难，要做出同样的颜色、光泽、款式、工艺，可能要比买件真的还贵。”驰展控股CEO黄崇望笑着说，“谁敢造大量假黄金？按照现在的金价，很容易触达刑法的数额巨大或者特别巨大，后果严重。”
驰展控股旗下的“珠宝管家”，是专注于黄金珠宝行业的B2B供应链服务平台，对接上下游的采购、风控、金融需求，黄金原料交易额超120亿元。
零售黄金饰品买卖频次很低，鉴假需求不如烟酒包。大部分黄金消费者一辈子只在结婚时买三金、五金、九金，而且只认准品牌专柜，买了以后也不太会卖，只代代传承。
黄金行业的AI需求或许来自商家。回收黄金，“熔老打新”，都有被骗风险。
但在线下门店，目测、重量、磁性、硬度、火烧等检测可识别真假，这些检验操作不难，机器价格也不贵，普通的就3万-5万元一台，AI进入的利润空间低。
在黄金珠宝鉴定的专业检测机构，使用场景较为同质化，或许适合AI辅助做快筛，近期黄崇望团队也在调研，“不过据我们了解，鉴定证书环节在黄金产业的利润率太低，量做不起来的话会很难。”
珠宝管家2024年年初上线了一款AI摄像头，虽然不用于鉴定黄金真假，但可以快速识别手镯、项链等款式，用算法实时监测柜面黄金饰品的数量与克重，解决人工数货慢、易错、易瞒报的难题。
AI在黄金产业的另一个重要用途是辅助信贷评级。
“黄金生意很传统，店家往往重资产，先给上游垫款，批量买金，再一点点卖给消费者。所以店家经常需要向银行贷款。”黄崇望介绍，银行很难评定一些四五线城市金店的信用等级。
“珠宝管家”的AI摄像头能快速识别金店柜台销售情况，结合SaaS办公系统和黄金交易平台，可鉴别金店实力，给店家赋予类似微信支付的信用分，为金融信贷提供参考。
2024年3月15日，南京国展中心，珠宝鉴定师为消费者检测珠宝真假。
道高一尺，魔高一丈
文生图的AI应用，结果不满意，用户还可以反复修改，但鉴假的AI应用，结论只能一锤定音。
唐平中提到，在学术界，某个领域的AI准确率提高到85%左右，可能是一个非常了不起的进步，值得发表期刊与赞赏；但是在商业活动中，必须接近100%，才能大规模落地应用，将经营风险降到最低。
假货永远在研究如何做得更真，溯源码可以买外包装，芯片可以篡改……AI必须知道界限在哪里，而这条界限在不断前移。
AI鉴假脸也被Meta、外滩大会用作极客挑战赛的赛题。有的赛制要求AI模型既能识别出其他队伍的假脸，还要制造假脸骗过其他队伍的AI。
“道高一尺，魔高一丈”，不法分子可能利用AI鉴假升级造假技术。
“AI鉴定就像双刃剑，假如造假团队掌握了AI鉴定都是看哪些参数，他们可以对标真品的参数提高造假技术，比如回收真品包材，破解溯源码算法，那会很可怕。”宋劲贤说。
一些AI团队目前正在探索的方向是，人与AI合作，双方的鉴假能力都要提高。研究团队尽可能获取更多更新的假货样本，让AI了解并预测假货的套路。当AI初筛结果存疑时，第一时间将照片和疑点回传给人工鉴定师，更高效地复核；也有团队要求人工鉴定师单独给出鉴定意见，若与AI鉴定结果不符，纳入更多数量的人工鉴定师再做多轮鉴定。
目前，图灵深视每天可收到数千单线上鉴定，累计鉴定数已超过五百多万单，营收规模较2023年已翻番。AI在3秒钟以内就能给出鉴定结果，几分钟后人工鉴定师也会独立给出鉴定结果，系统根据AI和鉴定师的历史准确率自动整合结果。
中国消费市场广阔，也滋生了假货的土壤。国家统计局数据显示，2023年社会消费品零售总额47万亿元，网上零售额15万亿元。AI为保护消费者权益和知识产权提供了新的可能性。
“很多被侵权造假的相关企业不敢公开打假，大多也不愿意向媒体承认假货存在，主要是怕影响正品的销售和美誉度，但实际上假货层出不穷。”一位资深鉴定专家李黎（化名）告诉南方周末记者，他的办公桌上放着一摞摞的鉴定报告和各种各样的假货，有的是销量巨大的品牌洗衣液、驱蚊水，有的是价格高昂的明星抗癌药、减重药、心脑血管疾病用药。
国内法定检测机构，从接收样品、鉴定到出具纸质报告可能要花几个月的时间，检验成本不菲，而且一般不接受个体消费者的送样鉴定。这些检测机构也在研究如何结合AI技术提高鉴定效率，比如多波段光谱检查结合大数据AI图像识别全息技术，努力使一线执法检查人员了解最新造假手段，提高现场勘验快筛能力。
“假货制造商也在揣摩如何生产更接近真品的外观，所以现在光看外包装，普通消费者甚至执法人员几乎无法区别真假，应从外包装、内在质量、源头溯源追踪等多个角度进行鉴定。”李黎说。
与此同时，刘文杰指出，对违法侵权行为的查处，可以由受害人投诉举报来启动，也可以由主管部门自行启动。无论是哪一种AI鉴假技术路线，都应当具有较高准确率，并在自动识别为假货后辅以人工审核，“基于错误的AI鉴假而发生执法错误，造成合法经营者遭受损失，受害人有权依据国家赔偿法获得赔偿。”