路透社分析：Meta新款AI图像检测工具无法识别部分经裁剪的自有生成图片

路透社的一项最新分析显示，Meta Platforms新推出的人工智能（AI）图像检测工具在识别部分经过裁剪的自有AI生成图片时存在失败，这凸显了在虚假信息日益泛滥的背景下，验证AI内容所面临的技术挑战。

路透社测试揭示工具局限性

根据路透社对40张由Meta最新图像生成模型“Muse Image”创建的图片进行的分析，该检测工具成功验证了所有未经修改的原始AI生成图像。

然而，在这些图片被裁剪至其原始尺寸的三分之一到二分之一后，该工具未能识别出其中 55% 的图片。这一发现引发了对该技术在识别常见图像篡改后可靠性的担忧，尤其是在包含美国中期选举等重要政治活动的年份，这可能使识别网络上的深度伪造内容变得更加困难。

Meta回应与技术背景

Meta公司表示，该检测工具目前仍处于预览阶段。其技术依赖于一种名为“内容封印”（Content Seal）的隐形水印系统，该系统被嵌入到由Muse Image生成的每一张图片中。

Ad

公司解释称，该水印旨在经过常见编辑操作后仍保持完整，但如果图像被大幅裁剪，水印信号可能会丢失。谷歌（Google）和OpenAI等竞争对手也曾警告称，其自有的检测工具并非万无一失，无法完全抵御图像修改技术。

专家观点与行业挑战

专家指出，基于水印的检测方法存在固有的局限性。纽约州立大学布法罗分校的计算机科学教授Siwei Lyu表示：“当水印完好无损时，基于水印的方法可能非常有效，但任何移除或削弱嵌入信号的修改——例如裁剪、调整大小、高强度压缩或编辑——都可能降低其有效性。”

这一技术漏洞正值监管和公众对“欺骗性AI生成内容”的担忧日益加剧之际。此前，Meta的监督委员会已敦促公司采取更多措施，投资于更强大的检测工具。对于投资者而言，内容审核和AI安全技术的有效性是评估Meta等科技巨头长期监管风险和品牌声誉的关键因素。