如今，随手一抛便能遇到深度伪造（deepfake）内容。生成式人工智能的商品化导致了网络上虚假内容的激增：据身份验证平台Sumsub称，从2023年到2024年，全球深度伪造内容的数量增长了4倍。Sumsub指出，2024年，深度伪造内容占所有欺诈行为的7%，涵盖冒充、账户接管以及复杂的社交工程攻击等多种形式。Meta为打击深度伪造内容做出了一项有意义的贡献，推出了一款可为AI生成的视频片段添加难以察觉的水印的工具。该工具名为Meta Video Seal，于周四宣布推出，采用开源形式，旨在集成到现有软件中。该工具与Meta的其他水印工具Watermark Anything（今日以更宽松的许可重新发布）和Audio Seal相辅相成。Meta的人工智能研究科学家皮埃尔·费尔南德斯（Pierre Fernandez）在接受TechCrunch采访时表示：“我们开发了Video Seal，以提供更有效的视频水印解决方案，特别是用于检测AI生成的视频和保护原创性。”Video Seal并非此类技术的首创。DeepMind的SynthID可以水印视频，微软也有自己的视频水印方法。但费尔南德斯认为，许多现有方法存在不足。费尔南德斯说：“虽然存在其他水印工具，但它们在视频压缩方面的鲁棒性不足，而视频压缩在通过社交平台分享内容时非常普遍；这些工具在规模上运行不够高效；不够开放或可重复；或者源于图像水印，这对于视频而言是次优选择。”除了水印外，Video Seal还可以在视频中添加隐藏信息，以便日后揭示其来源。Meta声称，Video Seal能够抵御模糊和裁剪等常见编辑操作，以及流行的压缩算法。费尔南德斯承认，Video Seal存在一定的局限性，主要是工具水印的可见度与其对篡改的总体抗性的权衡。他补充道，重度压缩和大幅编辑可能会改变水印或使其无法恢复。当然，Video Seal面临的一个更大问题是，开发人员和行业没有太多理由采用它，尤其是那些已经使用专有解决方案的开发人员和行业。为了解决这个问题，Meta正在推出一个名为Meta Omni Seal Bench的公共排行榜，专门用于比较各种水印方法的性能，并将在今年的国际学习表示大会（ICLR）这一重要人工智能会议上组织一场水印研讨会。费尔南德斯说：“我们希望越来越多的AI研究人员和开发人员能在其工作中融入某种形式的水印。我们希望与行业和学术界合作，在该领域取得更快进展。”- END -