路透社测试：Meta新款AI图像检测工具无法识别部分经裁剪的自有AI图片

路透社的一项分析显示，Meta Platforms（META）本周预览的一款新型人工智能（AI）检测工具，在识别部分经过裁剪的、由其自家模型生成的图像时存在困难。这一发现凸显了在图像经过常见修改后进行验证的技术挑战，可能使在选举年期间识别网络上的深度伪造内容变得更加复杂。

测试揭示技术局限

路透社对Meta的图像生成模型“Muse Image”生成的40张图片进行了分析。结果发现，该检测工具能够成功验证所有原始的AI生成图像，但在这些图像被裁剪至原始尺寸的三分之一到二分之一后，对其中55%的图像无法成功识别。

Meta在其网站上表示，这款预览版检测工具通过名为“Content Seal”的隐形水印系统来识别其AI生成的图像。该系统被嵌入到由Muse Image生成的每一张图片中，旨在帮助用户验证其来源。Meta称，该水印在经过常见编辑后仍能保持完整。

Meta回应与行业挑战

针对路透社的分析结果，Meta公司指出该工具目前仍处于预览阶段。公司表示，虽然水印被设计为能够抵御常见编辑，但如果图像被“大量裁剪”，水印信号可能会丢失。这一局限性并非Meta独有，谷歌（Google）和OpenAI等竞争对手也曾警告称，其检测工具并非万无一失，无法完全防范图像篡改技术。

Ad

今年3月，负责对Meta内容问题做出决策的监督委员会曾呼吁该公司采取更多措施，以应对其平台上“欺骗性AI生成内容的扩散”，并投资于更强大的检测工具。对于Meta等社交媒体平台而言，有效管理AI生成内容带来的风险，是维护平台可信度和应对潜在监管压力的关键。

专家观点：水印技术并非万能

纽约州立大学布法罗分校研究AI图像取证的计算机科学教授Siwei Lyu表示，基于水印的系统存在局限性。他指出：“当水印保持完整时，这些方法可能非常有效，但任何移除或削弱嵌入信号的修改——例如裁剪、调整大小、高强度压缩或编辑——都可能降低其有效性。”

加州大学伯克利分校信息学院的AI研究员Sarah Barrington认为，水印技术为AI生成内容的未来带来了希望，但作用有限。她表示：“就像许多网络或物理安全预防措施一样，它可能不是完全无懈可击的，但即使我们只捕捉到90%的案例，也比0%是一个巨大的飞跃。”