路透社测试：Meta新款AI图像检测工具无法识别部分经裁剪的自有AI图片

路透社的一项最新分析显示，Meta Platforms公司本周发布的一款新型人工智能（AI）检测工具，在识别其自身AI模型生成但经过裁剪的图像时存在明显漏洞。这一发现揭示了在图像经过常见编辑操作后进行验证的技术难题，可能为识别和控制网络虚假信息带来挑战。

测试揭示水印技术局限性

路透社使用Meta的新图像生成模型“Muse Image”创建了40张图片进行测试。结果发现，该检测工具能够成功识别所有未经修改的原始AI生成图像。然而，当这些图像被裁剪至其原始尺寸的三分之一到二分之一后，该工具未能成功验证其中 55% 的图像。

Meta在其网站上表示，该预览版检测工具通过名为“内容印章”（Content Seal）的隐形水印系统来识别其AI生成的图像。该水印被嵌入到由Muse Image生成的每一张图片中，旨在帮助用户验证其来源，并应能抵抗裁剪等常见编辑。

Meta回应与行业共同挑战

针对路透社的测试结果，Meta方面指出该工具目前仍处于预览阶段。公司表示，虽然水印设计旨在承受常见的编辑操作，但如果图像被大幅裁剪，嵌入的信号可能会丢失。

Ad

这一挑战并非Meta独有。包括谷歌（Google）和OpenAI在内的其他科技巨头也曾警告称，其各自的检测工具在面对图像修改技术时并非万无一失。随着美国中期选举等重要政治活动的临近，有效识别“深度伪造”（deepfakes）等欺骗性AI内容的能力变得至关重要。

专家观点与监管呼吁

纽约州立大学布法罗分校的计算机科学教授、AI图像取证专家Siwei Lyu评论称，基于水印的系统有其固有的局限性。他表示：“任何移除或削弱嵌入信号的修改，如裁剪、调整大小、高强度压缩或编辑，都可能降低其有效性。”

此前，Meta的监督委员会已于今年3月敦促公司采取更多措施，应对其平台上“欺骗性AI生成内容的扩散”，并投入资源开发更强大的检测工具。尽管当前技术并非完美，但加州大学伯克利分校信息学院的AI研究员Sarah Barrington认为，水印技术仍是未来的希望，她表示：“即使我们只能捕捉到90%的案例，也比零要好得多。”