扔一块石头，你很可能就会碰到一个深度伪造的内容。

生成式AI的普及导致了网络上虚假内容的爆炸性增长：据身份验证平台Sumsub的数据，2023年至2024年间，全球深度伪造的数量增加了4倍。

在2024年，根据Sumsub的数据，深度伪造占所有欺诈行为的7%，从冒充和账户接管到复杂的社交工程活动。

为了对抗深度伪造，Meta推出了一款工具，可以在AI生成的视频片段上添加难以察觉的水印。

这款工具名为Meta Video Seal，在周四宣布，并以开源形式发布，设计用于集成到现有软件中。

这款工具加入了Meta的其他水印工具行列，包括重新发布的Watermark Anything（以宽松许可发布）和Audio Seal。

“我们开发了Video Seal来提供一种更有效的视频水印解决方案，特别是在检测AI生成的视频和保护原创性方面。

”Meta的人工智能研究科学家Pierre Fernandez在接受TechCrunch采访时说。

Video Seal并不是第一个此类技术。

DeepMind的SynthID可以对视频进行水印处理，而微软也有自己的视频水印方法。

然而，Fernandez认为许多现有方法存在不足。

“虽然其他水印工具存在，但它们在面对视频压缩时不够坚固；效率不足以大规模运行；不是开放或可重复使用的；或者是从图像水印衍生而来，这在视频中效果不佳。

”Fernandez说。

除了添加水印外，Video Seal还可以在视频中添加隐藏信息，稍后可以揭示以确定其来源。

Meta声称Video Seal对常见的编辑如模糊和裁剪以及流行的压缩算法具有很强的抵抗力。

Fernandez承认Video Seal有一些局限性，主要是工具水印的可见性和其整体抗篡改能力之间的权衡。

他补充说，严重的压缩和大量编辑可能会改变水印或使其无法恢复。

当然，Video Seal面临的更大问题是开发者和行业可能没有太多理由采用它，特别是那些已经在使用专有解决方案的人。

为了解决这个问题，Meta推出了一个公共排行榜——Meta Omni Seal Bench——专门用于比较各种水印方法的表现，并在今年ICLR（一个主要的人工智能会议）上组织了一场关于水印的工作坊。

“我们希望越来越多的人工智能研究人员和开发者将某种形式的水印整合到他们的工作中。

”Fernandez说。

“我们希望与行业和学术界合作，在该领域取得更快的进步。

”