路透社測試：Meta 新 AI 圖像偵測工具無法辨識經裁剪的自家生成圖片

根據路透社 (Reuters) 的一項分析，科技巨擘 Meta 新推出的 AI 偵測工具，在辨識自家 AI 模型生成但經過裁剪的圖片時，出現了顯著的失誤率，這項發現凸顯了在數位內容經過常見編修後，驗證其來源的技術挑戰。

測試揭露浮水印技術漏洞

路透社針對 Meta 最新圖像生成模型「Muse Image」所產生的 40 張圖片進行了測試。結果發現，Meta 的偵測工具雖然能夠百分之百驗證所有原始的 AI 生成圖像，但在這些圖像被裁剪至原尺寸約三分之一到一半後，辨識的失敗率高達 55%。

Meta 這套系統的核心是名為 「內容封印」(Content Seal) 的隱形浮水印技術。該公司在其網站上說明，此技術會嵌入由 Muse Image 生成的每一張圖片中，旨在幫助用戶驗證圖片是否由 Meta 的 AI 模型所創建，並應能抵抗裁剪等常見編輯操作。

Meta 回應與市場挑戰

針對路透社的測試結果，Meta 指出該偵測工具目前仍為預覽版本。公司表示，浮水印的設計是為了在常見編輯後仍能保持完整，但若圖像經過「大量裁剪」，訊號便可能遺失。

Ad

此一限制對於打擊「深偽」(deepfakes) 內容構成重大挑戰，尤其在美國期中選舉等政治活動頻繁的年度，辨識不實資訊的需求更為迫切。此前，Meta 的監督委員會已呼籲公司投入更多資源，開發更強大的偵測工具，以應對其平台上「欺騙性 AI 生成內容的擴散」。值得注意的是，Google 和 OpenAI 等競爭對手也曾提醒，其偵測工具並非萬無一失。

專家：浮水印技術有其侷限

研究 AI 圖像鑑識的紐約州立大學水牛城分校計算機科學教授呂思偉 (Siwei Lyu) 表示，他雖未評估過 Meta 的工具，但基於浮水印的系統本身存在限制。

呂思偉指出：「當浮水印保持完整時，這種方法非常有效，但任何移除或削弱嵌入訊號的修改——例如裁剪、調整大小、高度壓縮或編輯——都可能降低其有效性。」加州大學柏克萊分校資訊學院的 AI 研究員 Sarah Barrington 則認為，儘管浮水印技術並非「完全滴水不漏」，但即便只能捕捉到 90% 的案例，也已是從零開始的巨大飛躍。