路透社测试：Meta新款AI图像检测工具无法识别部分经裁剪的自有生成图片

根据路透社的一项分析，Meta Platforms新推出的一款人工智能(AI)检测工具，在识别部分经过裁剪的自有AI生成图片时遭遇失败。这一发现揭示了在图像经过常见编辑操作后进行内容验证所面临的重大挑战，可能使在选举年期间识别和遏制网络“深度伪造”信息的难度增加。

路透社测试揭示检测漏洞

该检测工具与Meta的图像生成模型“Muse Image”一同于本周亮相。路透社使用Muse Image生成了40张图片进行测试，结果发现，该工具能够成功验证所有原始的AI生成图片。

然而，当这些图片被裁剪至原始尺寸的三分之一到二分之一后，情况发生了变化。分析显示，该检测工具未能识别其中 55% 的经裁剪图片。Meta此前在其网站上表示，该工具通过名为“内容封印”(Content Seal)的隐形水印系统，即使用户对图片进行裁剪等编辑，也能识别出由其AI模型生成的图像。

Meta回应与行业挑战

针对路透社的测试结果，Meta方面指出，该工具目前仍处于“预览”阶段。公司表示，其水印技术旨在抵御常见的编辑操作，但如果图像被“大量裁剪”，水印信号可能会丢失。

Ad

这一挑战并非Meta独有。包括谷歌(Google)和OpenAI在内的科技巨头也曾警告称，它们各自的检测工具在面对图像篡改技术时并非万无一失。今年三月，Meta的监督委员会曾敦促公司采取更多措施，投资更强大的检测工具，以应对其社交平台上“欺骗性AI生成内容的扩散”。

专家观点：水印技术并非万无一失

纽约州立大学布法罗分校的计算机科学教授、AI图像取证专家Siwei Lyu表示，他虽未评估Meta的工具，但指出基于水印的系统存在固有局限性。他解释说：“当水印保持完整时，这类方法非常有效，但任何移除或削弱嵌入信号的修改，如裁剪、调整大小、高强度压缩或编辑，都可能降低其有效性。”

加州大学伯克利分校信息学院的AI研究员Sarah Barrington认为，尽管水印技术并非“完全无懈可击”，但它仍代表着未来的希望。她表示：“就像许多网络安全措施一样，它可能无法做到100%防护，但即使我们只能捕获90%的案例，也比零捕获是一个巨大的飞跃。”