路透社：Meta 新 AI 圖像偵測工具無法辨識部分自家裁切後圖片

根據路透社的一項分析，科技巨擘 Meta Platforms 新推出的 AI 偵測工具，未能成功辨識出部分由自家圖像生成模型所創作、但經過裁切的圖片。此發現凸顯了在常見的圖像修改後，驗證 AI 生成內容所面臨的挑戰，這可能使在選舉年期間打擊網路「深度偽造」（deepfakes）的任務更加艱鉅。

路透社測試發現漏洞

路透社針對 Meta 的圖像生成模型 Muse Image 所產生的 40 張圖片進行了分析。結果發現，Meta 的偵測工具雖然能 100% 驗證所有原始的 AI 生成圖片，但在這些圖片被裁切至原始尺寸約三分之一至二分之一後，卻有 55% 的圖片無法通過驗證。

Meta 在其網站上表示，該預覽版偵測工具應能透過名為「Content Seal」的隱形浮水印系統，辨識出自家 AI 生成的圖片，即使圖片經過裁切。此浮水印被嵌入到每一張由 Muse Image 生成的圖像中，旨在幫助用戶驗證其來源。

技術限制與專家觀點

針對路透社的分析結果，Meta 指出該工具目前仍為預覽版本。該公司表示，浮水印的設計是為了在常見的編輯操作後仍能保持完整，但若圖像被大幅度裁切，其訊號便可能遺失。包括 Google 和 OpenAI 在內的競爭對手也曾警告，其偵測工具並非萬無一失，無法完全防範圖像修改技術。

Ad

紐約州立大學水牛城分校研究 AI 圖像鑑識的電腦科學教授 Siwei Lyu 表示，基於浮水印的系統存在其局限性。他指出：「當浮水印保持完整時，這種方法非常有效，但任何移除或削弱嵌入訊號的修改，如裁切、調整大小、高度壓縮或編輯，都可能降低其有效性。」

監管壓力與市場意涵

此一技術挑戰正值 Meta 面臨日益增加的監管壓力之際。今年三月，Meta 的監督委員會已呼籲公司採取更多措施，應對其平台上「欺騙性 AI 生成內容的擴散」，並投資於更強大的偵測工具。

對於投資者而言，社群媒體平台有效管理和辨識 AI 生成內容的能力，是評估其平台風險和治理能力的重要指標。在關鍵的選舉年，無法可靠地偵測經竄改的圖像，不僅可能引發公眾信任危機，也可能招致更嚴格的監管審查，進而影響市場對該公司的信心。