路透社测试：Meta新款AI图像检测工具无法识别过半数经裁剪的AI图片

路透社的一项最新分析发现，科技巨头Meta Platforms（META）本周发布的一款新型人工智能（AI）检测工具，在识别其自身AI模型生成的、经过裁剪的图片时存在显著漏洞，这给防范虚假信息传播带来了新的挑战。

测试揭示“内容印章”技术局限

该检测工具与Meta的新图像生成模型“Muse Image”一同亮相。路透社对使用Muse Image生成的40张图片进行了测试。结果显示，该工具能够识别所有未经修改的原始AI图片，但当这些图片被裁剪至原始尺寸的三分之一到一半后，其识别失败率高达55%。

Meta在其网站上表示，该预览版工具通过名为“内容印章”（Content Seal）的隐形水印系统来识别其AI生成的图片。该系统旨在即使用户对图片进行裁剪等常见编辑操作后，水印信息依然能够保留。

公司回应与市场影响

针对路透社的测试结果，Meta方面指出该工具目前仍处于“预览”阶段。公司表示，虽然水印被设计为能够经受常见编辑，但在图像被“大量裁剪”的情况下，信号可能会丢失。这一局限性凸显了在AI生成内容可被轻易修改的背景下，验证其来源的巨大挑战，尤其是在包含美国中期选举等重要政治事件的年份，这可能加大识别和控制网络“深度伪造”内容的难度。

Ad

今年3月，Meta的监督委员会曾敦促公司采取更多措施，应对其平台上“欺骗性AI生成内容的扩散”，并投资于更强大的检测工具。

专家观点：水印技术面临挑战

行业专家认为，基于水印的检测方法有其固有的局限性。纽约州立大学布法罗分校的计算机科学教授、AI图像取证专家Siwei Lyu表示，当水印完好无损时，这种方法非常有效，但任何移除或削弱嵌入信号的修改，如裁剪、调整大小或高强度压缩，都可能降低其有效性。

不过，也有研究人员持相对乐观态度。加州大学伯克利分校信息学院的AI研究员Sarah Barrington认为，水印技术为AI生成内容的未来管理带来了希望。她表示：“即使它无法做到完全万无一失，但哪怕只能捕获90%的案例，也比零捕获是一个巨大的飞跃。”