路透社：Meta AI 圖像偵測工具存有漏洞，裁切後無法辨識自家生成圖片

根據路透社的一項分析，科技巨頭 Meta 新推出的 AI 偵測工具未能成功辨識部分自家 AI 模型所生成、且經過裁切的圖片。這項發現凸顯了在圖像經過常見編修後，驗證其來源的困難度，可能使在選舉年期間打擊線上深度偽造內容的努力變得更加複雜。

測試揭示偵測盲點

路透社針對 Meta 新發表的圖像生成模型 Muse Image 所產出的 40 張圖片進行了分析。結果顯示，偵測工具雖然能百分之百驗證所有原始的 AI 生成圖片，但在這些圖片被裁切至原始尺寸的三分之一至二分之一後，其辨識失敗率高達 55%。

Meta 在其網站上表示，這款預覽版偵測工具透過名為「Content Seal」的隱形浮水印系統，應能辨識自家 AI 生成的圖片，即使經過裁切。此浮水印被嵌入到由 Muse Image 生成的每一張圖片中，旨在幫助用戶驗證其來源。

技術限制與專家觀點

針對路透社的測試結果，Meta 指出該工具目前仍為預覽版本。公司表示，浮水印的設計宗旨在於能承受常見的編輯操作，但若圖片經過大幅度裁切，嵌入的訊號便可能遺失。

Ad

其他科技公司如 Google 和 OpenAI 也曾警告，其偵測工具並非萬無一失，無法完全防範圖像修改技術。紐約州立大學水牛城分校的電腦科學教授 Siwei Lyu 指出，基於浮水印的系統有其侷限性。他表示：「當浮水印保持完整時，這種方法非常有效，但任何移除或削弱嵌入訊號的修改，如裁切、調整大小或高度壓縮，都可能降低其有效性。」

市場意涵與監管壓力

AI 內容偵測的準確性對於防範假訊息傳播至關重要，尤其是在政治敏感時期。這項技術的漏洞，可能對依賴社群平台獲取資訊的投資人與大眾構成潛在風險。

事實上，Meta 的監督委員會已於今年三月敦促公司採取更多措施，以應對其平台上「欺騙性 AI 生成內容的擴散」，並呼籲投資於更強大的偵測工具。儘管存在挑戰，加州大學柏克萊分校資訊學院的 AI 研究員 Sarah Barrington 認為，浮水印技術仍有其前景，她表示：「即使我們只能捕捉到 90% 的案例，那也比零好得多。」