在刚刚过去的国庆假期中，短视频平台上出现了大量“雷军”的发言视频，在视频中，“雷军”锐评了堵车、假期、调休、游戏等一切热门话题，不仅言辞犀利，不乏一些粗话脏话，有的甚至模仿雷军辟谣。有网民调侃称：“国庆上网被雷军骂了整整7天。”还有网友称被雷总骂蒙圈了。
这些内容不仅包括辱骂和吐槽，还涉及捐款给某大学、用小米SU7撞人、远程控制小米手机进行爆炸等。目前，相关短视频平台已开始逐步下架这些内容。
事实上，此类视频中的声音并非出自雷军本人，而是AI配音。
10月7日晚间，有网友在雷军的社交媒体留言问“雷总，最近你怎么在骂人？”雷军回应三个发怒的表情。
在社交媒体上用雷军AI配音已经形成一种创作风潮，各种配音模仿、恶搞视频层出不穷。抖音上话题浏览量过亿，B站上相关创作超过上百条。
蓝鲸记者查询发现，目前市面上有大量AI配音的小程序，用户只需在程序内选择相应的人物声音并输入文字，便可借用他人的声音发表言论。
事实上，行业内，AI伪造音视频事件早已发生多起。
据21世纪经济报道，此前，一段疑似集团创始人卢文庆醉酒后的音频流出，音频提到客服投诉、竞争对手和三位女主播关系，一时引发了大量讨论。
9月26日，安徽合肥市公安局高新分局确认，相关网传音频为AI伪造。9月27日凌晨，深圳言域科技有限公司发文称，三只羊事件使用的是“Reecho睿声”大模型，由卢文庆30秒的直播片段克隆生成，现在在加强安全管控措施。
垦丁律师事务所联合创始人欧阳昆泼分析称，声音克隆可能涉及民事侵权，声音也属于一种人格权益，具有人身专属性。未经授权的情况下使用他人声音可以构成民事侵权。
欧阳昆泼还补充道，对于深度合成技术的标识义务，已有相关法规要求在使用合成内容时进行标识，各个社交平台也已采取了相关措施，会在AI生成的内容旁标注类似于“本内容为AI生成”的内容。然而，在实际操作中，对AI生成内容标识仍存在一定挑战。例如，合成内容经二次传播后，标识就可能被省略或忽视，导致接收方对内容来源产生误解。这会是接下来各个平台需要处理的课题。