路透社测试：Meta新款AI图像检测工具无法识别部分经裁剪的自有图片

根据路透社的一项最新分析，Meta Platforms公司新推出的一款人工智能（AI）检测工具，在识别其自身AI模型生成的、经过裁剪的图像时表现不佳。这一发现凸显了在图像经过常见编辑后进行验证的技术挑战，并可能影响打击“深度伪造”内容的努力。

测试揭示技术局限

路透社的分析使用了40张由Meta新推出的图像生成模型“Muse Image”创建的图片。测试发现，该检测工具能够成功识别所有未经修改的原始AI图像。

然而，当这些图像被裁剪至其原始尺寸的三分之一到一半左右时，该工具的识别失败率高达55%。Meta表示，该检测工具预览版通过名为“Content Seal”的隐形水印系统工作，该系统旨在帮助用户验证图像是否由Meta的AI模型创建，并理应能抵抗裁剪等常见编辑操作。

Meta回应与行业共同挑战

针对路透社的测试结果，Meta公司指出该工具目前仍处于“预览”阶段。公司表示，虽然水印被设计为在常见编辑后仍能保持完整，但如果图像被“大量裁剪”，水印信号可能会丢失。

Ad

这一挑战并非Meta独有。包括谷歌（Google）和OpenAI在内的其他科技巨头也曾警告称，它们的检测工具在面对图像篡改技术时并非万无一失。这反映了整个行业在内容溯源和真实性验证方面面临的普遍困境。

市场影响与专家观点

在选举年等关键时期，有效识别和标记AI生成内容的能力至关重要，因为“深度伪造”技术可能被用于传播虚假信息，对市场情绪和政治稳定造成影响。检测工具的局限性可能会增加科技平台面临的监管压力。

• 专家意见：纽约州立大学布法罗分校的计算机科学教授吕思伟（Siwei Lyu）表示，基于水印的方法在水印完好时非常有效，但裁剪、压缩或编辑等任何修改都可能削弱其效果。
• 监管压力：此前，Meta的监督委员会已敦促公司采取更多措施，应对其平台上的“欺骗性AI生成内容的扩散”，并投资于更强大的检测工具。

尽管存在局限性，但加州大学伯克利分校的研究员Sarah Barrington认为，水印技术仍有前景。她表示，即使无法做到100% watertight，但将识别率从零提升到90%已是巨大飞跃。