路透社測試：Meta AI 圖像偵測工具無法辨識經裁切的自家生成圖片

路透社一項最新分析指出，科技巨頭 Meta Platforms 新推出的 AI 圖像偵測工具，在辨識自家 AI 模型生成但經過裁切的圖片時，出現了顯著的失誤率。這項發現凸顯了在重大選舉年驗證 AI 生成內容的艱鉅挑戰，可能影響投資者對該公司內容治理能力的評估。

路透社測試揭露技術漏洞

路透社針對 Meta 新發表的圖像生成模型 Muse Image 所產生的 40 張圖片進行了分析。測試發現，該偵測工具能夠成功驗證所有原始的 AI 生成圖像。

然而，當這些圖像被裁切至約原始尺寸的三分之一到二分之一後，該工具便無法辨識其中 55% 的圖片。Meta 表示，其偵測工具是透過名為「Content Seal」的隱形浮水印系統運作，旨在幫助用戶驗證圖片是否由 Meta 的 AI 模型創建。

Meta 回應與市場挑戰

針對路透社的測試結果，Meta 指出該工具目前仍為預覽版本。公司表示，浮水印的設計宗旨在於能承受常見的編輯操作，但若圖片經過大幅度裁切，其訊號便可能遺失。

Ad

此一限制並非 Meta 獨有，其競爭對手如 Google 和 OpenAI 也曾警告，自家的偵測工具並非萬無一失。隨著「深度偽造 (deepfakes)」內容日益氾濫，可靠的偵測技術對維護平台資訊可信度至關重要，也是監管機構和市場關注的焦點。

專家觀點：浮水印技術的侷限性

專門研究 AI 圖像鑑識的紐約州立大學水牛城分校電腦科學教授呂思偉 (Siwei Lyu) 表示，基於浮水印的系統在浮水印完整時可以非常有效，但任何移除或削弱嵌入訊號的修改，如裁切、調整大小或高度壓縮，都可能降低其有效性。

加州大學柏克萊分校資訊學院的 AI 研究員 Sarah Barrington 則認為，浮水印技術雖非「滴水不漏」，但前景可期。她表示：「即使我們只能捕捉到 90% 的案例，相較於零，這仍然是一個巨大的飛躍。」這表明業界普遍認為，儘管存在缺陷，但相關技術的發展仍是應對 AI 生成內容挑戰的關鍵一步。