Story
路透社测试：Meta新款AI图像检测工具无法识别部分经裁剪的自有AI图片
根据路透社的一项最新分析，科技巨头Meta公司新推出的一款人工智能（AI）检测工具，在识别其自家图像生成模型所创作但经过裁剪的图片时存在明显缺陷。这一发现揭示了在图像经过常见编辑后进行验证的巨大挑战，可能使在选举频密时期识别网络上的深度伪造内容变得更加困难。
测试揭示技术局限
路透社对40张由Meta最新图像生成模型“Muse Image”生成的图片进行了分析。结果显示，该检测工具能够成功验证所有原始的AI生成图片。
然而，当这些图片被裁剪至其原始尺寸的三分之一到一半左右时，该工具未能成功验证其中 55% 的图片。Meta在其网站上表示，该预览版检测工具通过名为“内容印章”（Content Seal）的隐形水印系统来识别其AI生成的图片。该系统被嵌入到每一张由Muse Image生成的图片中，旨在帮助用户验证其来源。
Meta回应与行业挑战
针对路透社的分析结果，Meta公司指出该检测工具目前仍处于预览阶段。公司表示，虽然水印被设计为在经过常见编辑（如裁剪）后仍能保持完整，但如果图片被大幅裁剪，嵌入的信号可能会丢失。
Ad这一挑战并非Meta独有。其竞争对手谷歌（Google）和OpenAI也曾警告称，它们各自的检测工具在面对图像修改技术时并非万无一失。这凸显了整个行业在有效、可靠地识别和标记AI生成内容方面所面临的普遍困境。
专家观点与潜在影响
专家认为，基于水印的检测系统存在固有局限性。纽约州立大学布法罗分校计算机科学教授Siwei Lyu表示：“任何移除或削弱嵌入信号的修改——例如裁剪、调整大小、高强度压缩或编辑——都可能降低其有效性。”
这一技术漏洞具有重要的现实意义。随着生成式AI技术的普及，利用“深度伪造”内容进行虚假信息传播的风险日益增加，尤其是在政治选举等敏感时期。今年3月，Meta的监督委员会已敦促公司采取更多措施，投资更强大的检测工具，以应对其平台上“欺骗性AI生成内容的扩散”。