路透社测试：Meta新款AI图像检测工具无法识别部分经裁剪的自有生成图片

根据路透社的一项最新分析，Meta Platforms公司新推出的一款人工智能（AI）检测工具，在识别部分经过裁剪的、由其自家模型生成的图片时遭遇失败。这一发现凸显了在图像经过常见修改后进行验证的技术挑战，尤其是在选举年期间，这可能加大识别网络“深度伪造”（deepfakes）内容的难度。

路透社测试揭示技术局限

路透社的分析使用了40张由Meta最新图像生成模型“Muse Image”创建的图片。测试发现，该检测工具能够成功验证所有原始AI生成图像，但在这些图像被裁剪至原始尺寸的三分之一到二分之一后，该工具对其中 55% 的图片未能成功识别。

Meta在其网站上表示，这款预览版检测工具通过名为“内容封印”（Content Seal）的隐形水印系统来识别其AI生成的图片。该水印被嵌入到每一张由Muse Image生成的图片中，旨在帮助用户验证其来源，并应能承受裁剪等常见编辑操作。

针对路透社的测试结果，Meta回应称该工具目前仍处于预览阶段。公司表示，水印的设计初衷是能在常见编辑后保持完整，但如果图像被“大量裁剪”，信号可能会丢失。

行业挑战与市场影响

Ad

这一问题并非Meta独有，凸显了整个科技行业在AI内容检测方面面临的普遍挑战。谷歌（Google）和OpenAI等竞争对手也曾警告称，它们各自的检测工具并非万无一失，同样容易受到图像修改技术的影响。

这项技术的局限性具有重要的市场意义。在虚假信息和AI生成内容泛滥的背景下，尤其是在美国中期选举等重要政治活动期间，无法可靠地识别经篡改的AI内容，可能会损害Meta等社交媒体平台的公信力，并增加监管审查的风险。此前，Meta的监督委员会（Oversight Board）已于3月敦促公司采取更多措施，以应对其平台上“欺骗性AI生成内容的扩散”，并投资于更强大的检测工具。

专家观点：水印技术并非万无一失

行业专家指出，基于水印的检测系统存在固有局限性。

• 纽约州立大学布法罗分校计算机科学教授、AI图像取证研究专家Siwei Lyu表示，虽然在水印完好无损时，这类方法非常有效，但“任何移除或削弱嵌入信号的修改——例如裁剪、调整大小、高强度压缩或编辑——都可能降低其有效性”。
• 加州大学伯克利分校信息学院的AI研究员Sarah Barrington认为，尽管水印技术并非“完全滴水不漏”，但它仍是AI生成内容领域一个有前景的方向。她表示：“即使我们只能捕捉到90%的案例，也比零捕获率是一个巨大的飞跃。”