AI周星驰视频疯传,合成明星视频真假难辨,后果谁来承担?

近日,某短视频平台上有大量AI生成的周星驰经典电影片段,被大量传播下载。

随后,周星驰经纪人陈震宇发文质疑:想问一下,这些属于侵权吗(尤其这两天大量传播),相信创作者应该已经盈利,而某平台是不是都放任不管提供给用户生成发布?

这些视频多取材于大话西游》《喜剧之王》等经典电影片段,用AI技术换脸,替换原片中的对手演员,或者直接加工生成新的场景对话。

只要输入“AI周星驰”的关键词在平台搜索,就能搜出一大波视频。

图片

图片

在谈论视频之前,先介绍一下Seedance 2.0也就是即梦。

这是国内互联网头部公司之一字节旗下的新产品,一推出即刷屏。

它彻底拉低了创作门槛,不用复杂操作,人人都能上手,初步实现一个人就能拍电影。

你只需要提出要求,他就能完成,运镜、用光都很专业。

图片

游戏科学创始人、CEO,《黑神话:悟空》制作人冯骥试用后评价道:即梦上线的 Seedance 2.0,在使用手册标题最后写着 “Kill the game!(杀死比赛)”。

图片

贾樟柯也表示“Seedance 2.0确实厉害,我准备用它做个短片。”

“影视飓风”创始人Tim在昨天发布视频,也对这个模型赞不绝口。

不仅如此,Tim在使用中发现,仅凭自己的照片,无需声音样本,模型即可生成一段带有他本人声音的视频,因为系统已能识别他是谁。

图片

除开经济和科技的内容,对内容创作者来说,这大大简化了内容制作的过程,是科技和算法进步带来的福音。

但对内容接受者和素材使用者来说,这件事的情况则要复杂的多。

最直接的影响,首先是周星驰的经纪人提出的,使用的原型比如周星驰的影视片段,该如何付费,要不要付费。

如果因此产生了什么后果,要不要承担责任,谁来承担责任?

实际上,随着AI的发展,短视频里AI合成换脸已经不是新鲜事了,之前不少明星也遭遇过类似事件。

不久之前,艺人罗云熙才向使用他的形象进行AI换脸的创作主体进行了维权。

图片

这些短剧中的换脸的男主形象与罗云熙不差分毫。

图片

2025年,歌手薛凯琪也曾公开表示,自己被AI换脸,制作不雅视频到处传播。

图片

图片

图片

同年,女台球运动员王思诺发布视频称,自己遭人恶意利用AI人工伪造淫秽视频并传播。

图片

图片

此外,还有模特叶某发视频称,自己被人利用AI换脸制作淫秽视频并大量传播,造成严重困扰,已经收集证据并报警。经鉴定,该视频确系拼凑伪造。

图片

此外还有,香港大学一名男学生通过人工智能软件,把多位师生的照片制作成裸露色情照片,受害女性达20至30人,受害人包括其同学、老师等。

图片

但事情的影响远不是这么简单,因为这些视频的受众,有很多并不具备自主鉴别视频是否是AI的能力。

尤其随着短视频向下沉市场的扩展,大量老年人口,城镇人口、低学历人口、或者是对AI不关注的人群,会按照以往的惯性去接受内容。

那么这些虚假的内容,就会被当成真实事件对他们产生影响。

最典型的是“假靳东” 事件。

图片

8名平均年龄还不到30岁的女性,利用AI技术盗用靳东肖像,发布虚假视频和语音(如“姐姐,我想你了”),通过嘘寒问暖建立情感联系后,进行诈骗。

导致多名中老年妇女被骗,有些更是在案件已经侦破,亲属强力阻止后依旧执迷不悟。

图片

图片

这有些粗糙的画面,完全不对版的光影,已经能让不少人上当了。

而现在新一代AI技术则能让画面、逻辑更逼真。

在这种情况下,AI视频成了某种意义上的双刃剑。

最近特别流行的明星拜年短视频,让诸多明星坐在一起给观众拜年。

刘德华冯巩、蔡明等家喻户晓的明星轮番登台。

有些标明是AI ,有些则干脆企图以假乱真。

 该图片疑似AI生成图片

这些视频,除了艺人明星被侵权外,受众的利益也有潜在巨大的风险。

图片

图片

AI制作从早期需要代码操作,深谙底层逻辑到现在只需要一张图像、一段视频、音频、文本就能按需生成高质量的视频,大大降低了视频制作的门槛,人人都是受益者。

但另外一方面,还没有跟上潮流的人们,或者会变成受害者。

图片

科技发展滚滚向前,技术快速迭代,科技伦理该如何介入。

如何保护大众肖像权,保护普通人在数字时代的信息安全和尊严,如何界定技术创新应用边界,难度并不比技术迭代低。

也许将普通人的权益保护考虑到其中,让科技不是少部分精英的工具,才是科技创新的真正意义。

大家怎么看待这些新技术?