Meta AI图像检测工具存漏洞 路透社发现其无法识别经裁剪的自家图片

根据路透社的一项最新分析，Meta公司新推出的人工智能（AI）检测工具未能识别出大部分由其自家模型生成、后经裁剪的图片。这一发现暴露了在识别经过常见修改的AI生成内容方面所面临的技术挑战，尤其是在虚假信息备受关注的选举年。

路透社测试揭示检测漏洞

路透社对 40张 使用Meta最新图像生成模型 Muse Image 创建的图片进行了分析。测试发现，该检测工具能够成功验证所有原始的AI生成图片，但在这些图片被裁剪至原尺寸约三分之一到一半后，其识别失败率高达 55%。

Meta在其网站上表示，该预览版工具通过名为“内容封印”（Content Seal）的隐形水印系统来识别AI图片。该水印被嵌入到每张由Muse Image生成的图片中，旨在帮助用户验证其来源，并理应能经受住裁剪等常见编辑操作。

Meta回应与行业挑战

针对路透社的分析结果，Meta方面指出该工具目前仍处于预览阶段。该公司表示，虽然水印设计上能够承受常见的编辑操作，但如果图片被大幅裁剪，嵌入的信号可能会丢失。

Ad

这一局限性并非Meta独有。其竞争对手谷歌（Google）和OpenAI也曾警告称，自家的检测工具并非万无一失，同样难以应对图像修改技术。有效识别“深度伪造”（deepfakes）等虚假内容的能力至关重要，而这类技术漏洞可能使在线信息环境变得更加复杂。

专家观点：水印技术并非万无一失

专家认为，基于水印的检测系统存在固有局限性。纽约州立大学布法罗分校计算机科学教授吕思伟（Siwei Lyu）表示，当水印完好无损时，这类方法非常有效，但任何移除或削弱嵌入信号的修改，如裁剪、调整大小或高强度压缩，都可能降低其有效性。

尽管如此，一些研究人员认为这仍是积极的一步。加州大学伯克利分校信息学院的AI研究员Sarah Barrington表示，虽然水印技术可能不是“完全密封”的解决方案，但“即使我们只能捕捉到90%的案例，也比零要好得多。” 此前，Meta的监督委员会也曾呼吁公司投入更多资源，开发更强大的检测工具，以应对其平台上“欺骗性AI生成内容的扩散”。