路透社测试：Meta新款AI图像检测工具无法识别部分经裁剪的自有生成图片

根据路透社的一项最新分析，科技巨头Meta公司新推出的一款人工智能（AI）检测工具，在识别部分经过裁剪的、由其自家模型生成的图片时遭遇失败。这一发现暴露了在识别经普通编辑修改后的AI生成内容方面存在的技术挑战，可能为虚假信息在选举年期间的传播留下漏洞。

测试揭示关键漏洞

路透社的分析测试了40张由Meta新发布的图像生成模型 Muse Image 创建的图片。结果显示，该检测工具能够成功识别所有未经修改的原始AI图片，但在这些图片被裁剪至原始尺寸的三分之一到二分之一后，其识别失败率高达 55%。

Meta在其官网上表示，这款预览版检测工具通过名为 Content Seal 的隐形水印系统来识别其AI生成的图片。该系统旨在将水印嵌入到每一张由Muse Image生成的图片中，即使用户进行裁剪等常见编辑操作，水印也应能被保留。针对路透社的测试结果，Meta回应称该工具目前仍处于预览阶段，并承认虽然水印被设计为能够抵御常见编辑，但大幅度的裁剪可能会导致信号丢失。

行业挑战与监管压力

这一问题并非Meta独有，它反映了整个科技行业在AI内容验证方面面临的普遍困境。谷歌（Google）和OpenAI等竞争对手也曾警告称，其各自的检测工具并非绝对可靠，同样容易受到图像修改技术的影响。

Ad

在虚假信息风险日益增加的背景下，尤其是在包括美国中期选举在内的重要政治周期，有效识别“深度伪造”（deepfakes）等欺骗性内容的能力至关重要。今年3月，Meta的监督委员会已敦促公司采取更多措施，投资更强大的检测工具，以应对其平台上“欺骗性AI生成内容的扩散”。

专家观点：水印技术并非万能

研究AI图像取证的专家指出，基于水印的检测系统存在固有的局限性。纽约州立大学布法罗分校的计算机科学教授吕思伟（Siwei Lyu）表示：“当水印保持完整时，这种方法可能非常有效，但任何移除或削弱嵌入信号的修改——如裁剪、调整大小、高强度压缩或编辑——都可能降低其有效性。”

加州大学伯克利分校信息学院的AI研究员Sarah Barrington认为，尽管水印技术并非“完全无懈可击”，但它仍是未来应对AI生成内容的重要方向。她表示，即使只能捕捉到90%的案例，也比完全无法检测是一个巨大的进步。