Meta AI 圖像偵測工具現漏洞：路透社發現裁切後辨識率大幅下降

根據路透社的一項分析，科技巨頭 Meta Platforms 新推出的 AI 偵測工具，在辨識自家圖像生成模型所產製、但經過裁切的圖片時，出現了顯著的辨識失敗。此發現突顯了在常見的圖像編輯後，驗證 AI 生成內容的困難，可能對防範網路深度偽造內容構成挑戰，尤其是在美國期中選舉等重大政治活動期間。

路透社測試揭示辨識漏洞

路透社針對 Meta 新發表的圖像生成模型「Muse Image」所產製的 40 張圖片進行測試。結果發現，Meta 的偵測工具能夠百分之百驗證所有原始的 AI 生成圖像。

然而，當這些圖片被裁切至原始尺寸的三分之一到二分之一後，該偵測工具的表現大幅下滑，對其中 55% 的裁切圖片無法成功驗證。Meta 稱其偵測工具採用名為「Content Seal」的隱形浮水印系統，該技術被嵌入每一張由 Muse Image 生成的圖片中，理論上應能抵抗裁切等常見編輯。

Meta 回應與市場挑戰

針對路透社的測試結果，Meta 指出該偵測工具目前仍為預覽版。公司表示，雖然浮水印被設計成能在常見的編輯操作後保持完整，但如果圖像被大幅度裁切，其嵌入的訊號仍可能遺失。

Ad

此一限制並非 Meta 獨有，其競爭對手如 Google 和 OpenAI 也曾警告，自家的偵測工具並非萬無一失，無法完全防範圖像篡改技術。這項技術挑戰正值 Meta 的監督委員會（Oversight Board）呼籲公司投入更多資源，開發更強大的偵測工具，以應對其平台上日益氾濫的欺騙性 AI 生成內容。

專家觀點與技術限制

紐約州立大學水牛城分校研究 AI 圖像鑑識的電腦科學教授 Siwei Lyu 表示，基於浮水印的系統有其侷限性。他指出：「當浮水印保持完整時，這種方法非常有效，但任何移除或削弱嵌入訊號的修改，如裁切、調整大小或高度壓縮，都可能降低其有效性。」

儘管如此，部分專家仍認為此技術具有潛力。加州大學柏克萊分校資訊學院的 AI 研究員 Sarah Barrington 認為，浮水印技術雖非「滴水不漏」，但即便只能捕捉到 90% 的案例，也已是從零開始的巨大飛躍。