路透社测试：Meta新款AI图像检测工具无法识别部分经裁剪的自有AI图片

根据路透社的一项最新分析，科技巨头Meta新推出的一款AI检测工具未能识别出部分由其自家模型生成、后经裁剪的AI图像。这一发现凸显了在识别经过常见修改的AI生成内容方面所面临的技术挑战，尤其是在全球进入繁忙的选举年之际，对平台内容审核能力提出了更高要求。

测试揭示技术局限

路透社的分析使用了40张由Meta最新的图像生成模型Muse Image创建的图片。测试发现，该检测工具能够成功验证所有未经修改的原始AI生成图像。

然而，当这些图像被裁剪至其原始尺寸的三分之一到二分之一后，情况发生了变化。结果显示，该检测工具未能成功验证其中 55% 的经裁剪图像。Meta在其网站上表示，该工具通过名为“Content Seal”的隐形水印系统来识别图像，该系统旨在抵御常见的编辑操作。针对路透社的测试结果，Meta回应称该工具目前仍为预览版，并承认如果图像被大幅裁剪，水印信号可能会丢失。

对抗虚假信息面临挑战

这一技术局限可能对在线识别“深度伪造”（deepfakes）等虚假信息构成重大障碍，尤其是在美国中期选举等重要政治活动期间。投资者和监管机构正密切关注大型科技平台应对误导性AI内容的能力，这直接关系到平台的信誉和潜在的监管风险。

Ad

此前，Meta的监督委员会（Oversight Board）已于3月敦促该公司采取更多措施，以应对其社交媒体平台上“欺骗性AI生成内容的扩散”，并要求其投资于更强大的检测工具。此次测试结果表明，即使是基于水印的先进系统，在面对简单的图像修改时也可能失效。

专家观点：水印技术并非万无一失

行业专家指出，基于水印的检测方法有其固有的局限性。纽约州立大学布法罗分校计算机科学教授、AI图像取证研究专家Siwei Lyu表示：“当水印保持完整时，这种方法非常有效，但任何移除或削弱嵌入信号的修改——如裁剪、调整大小、高强度压缩或编辑——都可能降低其有效性。”

加州大学伯克利分校信息学院的AI研究员Sarah Barrington认为，尽管水印技术并非“完全无懈可击”，但它仍是朝着正确方向迈出的一步。她表示，即使只能捕捉到90%的案例，也比完全无法检测是一个巨大的飞跃。这表明，虽然当前技术尚不完美，但它在降低AI生成内容风险方面仍具有重要价值。