路透社测试：Meta新款AI图像检测工具无法识别过半数经裁剪的自有生成图片

路透社的一项最新分析显示，Meta Platforms新推出的人工智能（AI）图像检测工具在识别其自身模型生成的、经过裁剪的图片时存在重大缺陷，这引发了外界对其在打击深度伪造（deepfakes）内容传播方面有效性的担忧。

路透社测试揭示技术局限

路透社使用Meta最新的图像生成模型“Muse Image”创建了40张图片进行测试。分析发现，该检测工具能够成功验证所有未经修改的原始AI生成图像。

然而，在将这些图片裁剪至其原始尺寸的三分之一到二分之一后，该工具未能识别出其中55%的图片是AI生成的。Meta的检测技术依赖于一种名为“内容封印”（Content Seal）的隐形水印系统，该系统旨在帮助用户验证图像是否由Meta的AI模型创建。

Meta回应与行业挑战

针对路透社的测试结果，Meta公司回应称，该检测工具目前仍处于“预览”阶段。公司表示，虽然水印被设计为能够经受常见的编辑操作，但如果图像被“大幅裁剪”，其信号可能会丢失。

Ad

这一挑战并非Meta独有。其竞争对手谷歌（Google）和OpenAI也曾警告称，自家的检测工具并非万无一失，同样难以应对图像篡改技术。此前，Meta的监督委员会已敦促公司采取更多措施，以应对其平台上“欺骗性AI生成内容的扩散”，并投资于更强大的检测工具。

专家观点与市场影响

纽约州立大学布法罗分校的计算机科学教授Siwei Lyu评论称，基于水印的系统在水印完好无损时非常有效，但裁剪、调整大小或重度压缩等任何修改都可能削弱或移除嵌入的信号，从而降低其有效性。

这一技术局限对投资者和市场构成了潜在风险。在选举年等关键时期，无法可靠地识别和标记被篡改的AI生成内容，可能会加剧虚假信息的传播，给Meta等社交媒体平台带来巨大的声誉和监管压力。这突显了科技公司在AI安全和内容审核领域面临的持续挑战。