路透社測試：Meta 新 AI 圖像偵測工具無法辨識部分經裁切的自家生成圖片

根據路透社的一項分析，科技巨頭 Meta Platforms 新推出的 AI 偵測工具，在識別自家 AI 模型生成且經過裁切的圖片時，出現了顯著的失誤。這項發現凸顯了在圖像經過常見編輯後，驗證其來源的技術挑戰，可能使在選舉頻繁的年度中打擊網路「深偽技術」(deepfakes) 變得更加困難。

測試揭示浮水印技術限制

路透社使用了 Meta 新發表的圖像生成模型 Muse Image 創建了 40 張圖片進行測試。結果顯示，該偵測工具能夠 100% 成功驗證所有原始的 AI 生成圖片。

然而，在這些圖片被裁切至原始尺寸的三分之一到一半後，該工具的辨識能力大幅下降，對其中 55% 的裁切後圖片無法成功驗證。Meta 表示，這套工具是透過名為「Content Seal」的隱形浮水印系統運作，該浮水印被嵌入到每一張由 Muse Image 生成的圖片中。雖然其設計宗旨在於抵禦常見的編輯操作，但公司承認，若圖片遭到「大幅裁切」，浮水印信號可能會遺失。

市場與監管的隱憂

此一技術限制正值全球對 AI 生成內容，特別是可能用於散播假訊息的深偽影像，日益擔憂之際。隨著美國期中選舉等重要政治活動的臨近，有效辨識和標記 AI 內容的能力至關重要。

Ad

今年三月，Meta 的監督委員會（一個對公司內容決策有約束力的專家機構）已敦促公司採取更多措施，應對其平台上「欺騙性 AI 生成內容的擴散」，並投資於更強大的偵測工具。此次測試結果顯示，即使是基於浮水印的先進系統，也並非萬無一失。

專家觀點：有效性取決於完整性

數位鑑識領域的專家指出，以浮水印為基礎的偵測系統存在其固有的侷限性。紐約州立大學水牛城分校的電腦科學教授呂思偉 (Siwei Lyu) 表示：「當浮水印保持完整時，這類方法非常有效，但任何移除或削弱嵌入信號的修改——例如裁切、調整大小、高度壓縮或編輯——都可能降低其有效性。」

儘管如此，部分研究人員認為，浮水印技術仍是重要的發展方向。加州大學柏克萊分校的 AI 研究員 Sarah Barrington 指出，這類預防性措施或許無法做到滴水不漏，但「即使我們只能捕捉到 90% 的案例，也比從零開始是一個巨大的飛躍」。