路透社测试：Meta新款AI图像检测工具无法识别经裁剪的自家生成图片

根据路透社的一项最新分析，Meta Platforms本周发布的一款新型人工智能（AI）检测工具，在识别部分经过裁剪的、由其自家模型生成的图像时宣告失败。这一发现揭示了在图像经过常见编辑操作后，验证其来源的艰巨挑战，可能对遏制“深度伪造”（deepfakes）内容的传播构成障碍。

路透社测试揭示技术局限

路透社对40张由Meta最新图像生成模型“Muse Image”创建的图片进行了测试。结果显示，该检测工具能够成功验证所有原始的AI生成图像，但在这些图像被裁剪至原始尺寸的三分之一到二分之一后，其识别失败率高达55%。

Meta在其官网上介绍，这款预览版检测工具通过名为“Content Seal”的隐形水印系统来识别其AI生成的图像。该水印被嵌入到每一张由Muse Image生成的图片中，旨在帮助用户验证图片来源，即使在经过裁剪等编辑后也应保持有效。

Meta回应与行业挑战

针对路透社的测试结果，Meta方面指出该工具目前仍处于“预览”阶段。公司表示，虽然水印系统被设计为能够抵御常见的编辑操作，但如果图像被“大量裁剪”，其信号可能会丢失。

Ad

这一挑战并非Meta独有。其竞争对手谷歌（Google）和OpenAI也曾警告称，自家的检测工具并非万无一失，同样难以应对图像篡改技术。今年3月，Meta的监督委员会曾敦促公司采取更多措施，投资更强大的检测工具，以应对其平台上“欺骗性AI生成内容的扩散”。

专家视角：水印技术的有效性与脆弱性

纽约州立大学布法罗分校的计算机科学教授、AI图像取证专家Siwei Lyu评论称，基于水印的系统在水印保持完整时非常有效。但他补充道：“任何移除或削弱嵌入信号的修改——例如裁剪、调整大小、高强度压缩或编辑——都可能降低其有效性。”

加州大学伯克利分校信息学院的AI研究员Sarah Barrington认为，水印技术在未来AI内容治理中前景广阔，但作用有限。她表示：“就像许多网络安全措施一样，它可能不是完全无懈可击的，但即使我们只能捕捉到90%的案例，也比零要好得多。” 对投资者而言，这凸显了大型科技公司在AI安全和内容审核方面持续面临的技术竞赛和声誉风险。