潮评丨“雷军AI配音”被玩坏,这事别只当个乐子看

潮新闻客户端 评论员 王彬

图片

针对网友“为何骂人”的询问,雷军回复了三个愤怒表情。图片来源:中国青年报微信公号

近日,短视频平台上出现了大量“雷军AI配音”的恶搞视频。在视频中,“雷军”锐评了堵车等热门话题,其中还有一些不雅谩骂。除了吐槽外,视频里的“雷军”还称要投资某某大学。这些视频中的声音、语气都很像雷军,甚至还有雷军的“出镜”。据悉,这些发言和雷军本人并无关系,而是AI配音所成。目前,相关短视频已被平台逐步下架。

估计连雷军自己都没想到,他会因为虚假的AI配音再“火”一把,但如此“火法”,肯定不是他本人想看到的。“雷总,最近你怎么在骂人”“每次都是开屏暴击”,这些询问和讨论也在雷军的社交账号留言区下刷屏,对此,雷军回复了三个愤怒表情。不只是雷军,但凡是正常人,都不愿意和这样的虚假AI配音沾边。

不少网友都把此事当成一种“玩梗”与“恶搞”,所产生的反应也都是对雷军开玩笑式的“调侃”。这说明网友还是有一定辨别能力的,没被“段子”给唬住,没把“假的”当“真的”。但还是要提醒下广大网友:这事别只当个乐子看。

这些恶搞视频,在未经本人同意的前提下,用了雷军的视频与声音进行编辑合成,而且合成的内容,还不乏具有辱骂和诽谤性质的。这样的内容,即使再可乐再好玩,也改变不了其侵犯当事人肖像权名誉权等正当权益的本质问题,是赤裸裸的违法行径。

尤其是这些视频还如此容易出现在互联网上,出现在我们面前,且得到极大的传播,就更应该有所警惕了。当虚假的AI配音不可控,今天是雷军,明天就可能是我们,理论上每个人的正当权益,都有被侵害的风险。今天我们调侃雷军,可当我们自己身陷其中,恐怕就笑不出来了。

近几年,生成式AI发展之快,远超我们的想象。AI图片、视频与音频从“一眼假”、“一听假”,逐渐到了“真假难辨”“以假乱真”的程度,具备一定的蒙蔽性、欺骗性和误导性,一旦被别有用心的人利用,用于造谣、诽谤与诈骗,以及其他不法行径,就会给民众和社会带来严重困扰。

这并不是夸张之语,通过AI“换脸”“拟声”,进而诈骗成功的案例不在少数。还有人利用AI技术恶意拼接他人照片,使用AI软件配侮辱诋毁性言论、音乐,并通过短视频平台散布传播。就拿雷军这些恶搞视频来说,万一真的有人信了,并产生了实质性的恶果,后果谁来承担呢?

一个更典型的案例是,前一段时间,在一起舆论事件中,一段虚假的“AI录音”,就把水给搅浑了,且制造了不小的混乱,也伴随着新一轮的质疑、谩骂与网暴,而大众根本没有辨别真假的能力,最后还是警方介入侦查,经过专业机构鉴定,才还原了真相,还了相关人员清白。而在这个过程中,受害者们,不仅是无辜躺枪,被泼脏水,还会陷入“自证清白”以及“有口说不清”的尴尬境地。即使事情最后顺利得到纠偏,但所带来的伤害,产生的恶劣影响,并不是那么容易消弥的。

AI生成的假视频、假录音,可能只需要一个软件,甚至是几秒钟时间,造假成本可谓极低,同时,违法越轨成本也并不高。那在猎奇、流量和利益的驱动下,生成式AI被滥用,便是一个能看到的必然结果。若要扭转这一情况,必须要把生成式AI关进法律的“笼子”里,使其可管控、守规矩,存在于道德伦理可接受的范围内。

前不久,国家互联网信息办公室起草了《人工智能生成合成内容标识办法(征求意见稿)》,明确指出,人工智能生成合成内容标识包括显式标识和隐式标识,且不得恶意删除、篡改、隐匿标识。未对生成合成内容进行标识造成严重后果的,由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚。而对于规范生成式AI内容,提高AI假视频假录音的违法越轨成本而言,这只是一个开始。

“转载请注明出处”