Meta AI 圖像偵測工具遭揭露漏洞，路透社測試：裁切後辨識失敗率逾五成

根據路透社的一項分析發現，科技巨頭 Meta Platforms 新推出的 AI 偵測工具，在辨識自家圖像生成模型「Muse Image」所產生的圖片時，一旦圖片經過裁切，其辨識能力將大幅下降，凸顯了在AI生成內容日益氾濫下，驗證技術所面臨的嚴峻挑戰。

路透社測試揭露技術限制

路透社針對 40 張由 Muse Image 生成的 AI 圖片進行測試。結果顯示，該偵測工具能夠百分之百成功驗證所有未經修改的原始圖片。

然而，當這些圖片被裁切至原始尺寸的三分之一到二分之一後，該工具的辨識失敗率高達 55%。此結果與 Meta 的宣稱形成對比，Meta 表示其「內容封印」（Content Seal）隱形浮水印系統，即使在圖片經過裁切等常見修改後，仍應能有效辨識。

Meta 回應與專家觀點

對於路透社的測試結果，Meta 指出該偵測工具目前仍為「預覽版」。公司表示，浮水印的設計旨在應對常見的編輯操作，但若圖片經過「大幅度裁切」，其訊號確實可能遺失。

Ad

研究 AI 圖像鑑識的紐約州立大學水牛城分校電腦科學教授呂思偉（Siwei Lyu）表示，基於浮水印的系統有其固有限制。他指出：「任何移除或削弱嵌入訊號的修改，如裁切、調整大小或高度壓縮，都可能降低其有效性。」其他科技公司如 Google 和 OpenAI 也曾警告，其偵測工具並非萬無一失。

市場意涵與背景

這項發現對市場具有重要意義，尤其是在全球多國進入選舉年之際，防範「深度偽造」（deepfakes）等誤導性內容的能力至關重要。偵測工具的可靠性直接影響社群平台的內容治理能力，以及投資者對平台應對監管風險的信心。

此前，Meta 的監督委員會（Oversight Board）已敦促公司投入更多資源，開發更強大的偵測工具，以應對其平台上「欺騙性 AI 生成內容的擴散」。此次測試結果表明，即使是技術領先的公司，在AI內容驗證方面仍有很長的路要走。