Meta AI 圖像偵測工具現漏洞 路透社測試：裁切後逾半數無法辨識

路透社一項分析發現，Meta 新推出的 AI 偵測工具在辨識自家 AI 模型生成的圖像時存在顯著漏洞。當這些 AI 圖像經過裁切後，該工具的辨識成功率竟不到一半，凸顯了在選舉年期間打擊線上深度偽造內容所面臨的技術挑戰。

路透社測試揭露辨識漏洞

Meta 近期發表了其圖像生成模型「Muse Image」，並同步預覽了一款新的 AI 偵測工具。路透社針對 40 張由 Muse Image 生成的圖像進行測試，結果發現，該偵測工具能夠成功驗證所有未經修改的原始 AI 圖像。

然而，當這些圖像被裁切至原始尺寸的三分之一到二分之一後，情況截然不同。測試顯示，該工具無法成功驗證其中 55% 的經裁切圖像。這項發現對 Meta 宣稱的技術能力提出了質疑。

Meta 在其官網上說明，該工具透過名為「Content Seal」的隱形浮水印系統運作，此浮水印會嵌入每一張由 Muse Image 生成的圖像中，旨在幫助用戶驗證圖像來源，即使經過裁切等常見編輯操作也不受影響。

Meta 回應與技術限制

Ad

針對路透社的測試結果，Meta 指出該偵測工具目前仍為「預覽」版本。公司表示，浮水印的設計宗旨在於能承受常見的編輯，但若圖像被「大量裁切」，其內嵌的訊號便可能遺失。

事實上，這類技術限制並非 Meta 獨有。其競爭對手 Google 和 OpenAI 也曾警告，自家的偵測工具並非萬無一失，同樣可能被圖像修改技術所規避。紐約州立大學水牛城分校研究 AI 圖像鑑識的電腦科學教授呂思偉 (Siwei Lyu) 指出，基於浮水印的系統在浮水印完整時非常有效，但任何移除或削弱嵌入訊號的修改，如裁切、調整大小或高度壓縮，都可能降低其效能。

深度偽造與內容監管挑戰

這項發現正值全球對 AI 生成的誤導性內容日益擔憂之際，尤其是在美國期中選舉等重大政治活動期間。有效辨識經修改的 AI 圖像，對於防範「深度偽造」內容的傳播至關重要。

今年三月，Meta 的監督委員會（Oversight Board）已敦促該公司採取更多措施，以應對其平台上「欺騙性 AI 生成內容的擴散」，並呼籲投資更強大的偵測工具。儘管存在挑戰，部分專家仍認為浮水印技術是個有前景的方向。加州大學柏克萊分校資訊學院的 AI 研究員 Sarah Barrington 表示，這類預防措施或許無法做到滴水不漏，但「即使只能捕捉到 90% 的案例，也比從零開始是一大步」。