路透社測試：Meta AI 圖像偵測工具存有漏洞，裁切後辨識自家生成圖片成功率不到一半

路透社一項分析發現，科技巨擘 Meta 新推出的 AI 偵測工具，在辨識自家圖像生成模型 Muse Image 所產製的圖片時存在顯著漏洞。一旦這些 AI 生成的圖片經過裁切，該工具的辨識成功率便會大幅下降，引發外界對於在選舉年防範深度偽造（deepfakes）內容傳播能力的擔憂。

路透社測試揭露辨識漏洞

路透社針對 40 張由 Meta 的 Muse Image 模型生成的 AI 圖片進行測試。結果顯示，該偵測工具能 100% 成功辨識未經修改的原始圖片。

然而，當這些圖片被裁切至原始尺寸的約三分之一到一半大小後，偵測工具的失敗率高達 55%。Meta 的偵測技術仰賴一種名為「內容封印」（Content Seal）的隱形浮水印系統，該系統會嵌入到每一張由 Muse Image 生成的圖片中，旨在幫助用戶驗證圖片來源。

Meta 回應與技術限制

針對路透社的測試結果，Meta 回應指出該工具目前仍為預覽版本。公司表示，浮水印的設計旨在抵禦常見的編輯操作，但若圖片經過大幅度裁切，其嵌入的訊號便可能消失。

Ad

此一限制也獲得專家認同。紐約州立大學水牛城分校專門研究 AI 圖像鑑識的電腦科學教授呂思偉（Siwei Lyu）表示，基於浮水印的系統有其侷限性。他解釋道：「任何移除或削弱嵌入訊號的修改，如裁切、調整大小或高度壓縮，都可能降低其有效性。」

應對「深度偽造」的挑戰

這項發現凸顯了在政治活動頻繁的選舉年，驗證 AI 生成內容的艱鉅挑戰，這對 Meta 等社群平台而言是一項重大的內容治理風險。不只是 Meta，Google 和 OpenAI 等其他科技公司也曾警告，其偵測工具並非萬無一失，無法完全防堵圖像修改技術。

事實上，Meta 的監督委員會（Oversight Board）今年三月便曾呼籲公司採取更多措施，應對其平台上「欺騙性 AI 生成內容的擴散」，並投入資源開發更強大的偵測工具。儘管浮水印技術並非完美，但部分專家認為這仍是重要的一步，有助於提高濫用 AI 生成內容的門檻。