路透社测试：Meta新款AI图像检测工具无法识别部分经裁剪的自有AI图片

根据路透社的一项分析，Meta Platforms本周发布的一款新型人工智能（AI）检测工具，在识别其自家图像生成模型“Muse Image”所创建的部分经裁剪图片时遭遇失败。这一发现凸显了在图像经过常见编辑操作后进行验证的技术难题，尤其是在选举活动频繁的年份，这可能加大识别网络深度伪造内容的难度。

测试揭示技术局限性

路透社对40张由Muse Image生成的图像进行了分析。结果显示，该检测工具能够成功验证所有未经修改的原始AI生成图像。

然而，在这些图像被裁剪至其原始尺寸的三分之一到二分之一后，该工具未能成功验证其中 55% 的图片。这一结果直接暴露了当前检测技术在应对图像修改方面的局限性。

Meta的回应与技术背景

Meta在其网站上介绍，这款预览版检测工具通过名为“Content Seal”的隐形水印系统来识别其AI生成的图像。该水印被嵌入到由Muse Image生成的每一张图片中，旨在帮助用户验证其来源。

Ad

针对路透社的分析结果，Meta方面指出，该工具目前仍处于预览阶段。公司表示，虽然水印的设计目标是在常见编辑操作后仍能保持完整，但如果图像被“大量裁剪”，水印信号可能会丢失。谷歌（Google）和OpenAI等其他科技巨头也曾警告称，其各自的检测工具并非万无一失。

市场担忧与专家观点

这一漏洞引发了市场对科技平台内容审核能力的担忧，尤其是在防止欺骗性AI内容传播方面。今年3月，Meta的监督委员会曾敦促公司采取更多措施，投资于更强大的检测工具，以应对其平台上的“欺骗性AI生成内容的扩散”。

专家对此持不同看法。纽约州立大学布法罗分校的计算机科学教授Siwei Lyu表示，基于水印的系统存在固有限制，裁剪、调整大小或强力压缩等任何修改都可能削弱其有效性。然而，加州大学伯克利分校信息学院的AI研究员Sarah Barrington则认为，尽管水印技术可能不是“完全无懈可击”，但即便只能捕捉到90%的案例，也比零检测率是一个巨大的飞跃。