Meta AI 圖像偵測工具遭質疑 路透社：裁切後逾半數自家生成圖無法辨識

路透社一項分析發現，Meta Platforms 新推出的 AI 偵測工具，在辨識自家 AI 模型「Muse Image」所生成的圖片時，若圖片經過裁切，其辨識成功率將大幅下降，凸顯了在數位內容驗證方面的技術挑戰。

此一發現對於市場和投資者而言，意味著辨識「深偽技術」(deepfakes) 的技術屏障依然存在，尤其在重大選舉年期間，不實資訊的傳播風險可能因此升高，進而影響社群平台的內容審核成本與信譽。

路透社測試揭露辨識漏洞

路透社針對 40 張由 Muse Image 生成的 AI 圖片進行測試。結果顯示，該偵測工具能夠百分之百驗證未經修改的原始圖片。

然而，當這些圖片被裁切至原尺寸的約三分之一到二分之一後，該工具便無法成功辨識其中 55% 的圖片。Meta 的偵測技術仰賴一種名為「Content Seal」的隱形浮水印系統，該系統會嵌入由 Muse Image 生成的每張圖片中，旨在幫助用戶驗證其來源。

Meta 回應與技術限制

Ad

針對路透社的測試結果，Meta 指出該工具目前仍為「預覽版」。公司表示，雖然浮水印設計上能抵抗常見的編輯操作，但若圖片經過「大幅度裁切」，浮水印訊號便可能遺失。

紐約州立大學水牛城分校的電腦科學教授 Siwei Lyu 表示，以浮水印為基礎的系統確實存在限制。他解釋：「任何移除或削弱嵌入訊號的修改，例如裁切、調整大小或高度壓縮，都可能降低其有效性。」Google 和 OpenAI 等其他科技巨頭也曾警告，其自家的偵測工具並非萬無一失。

背景與未來挑戰

這項技術限制引發了對 AI 生成內容監管的擔憂。此前，Meta 的監督委員會已敦促公司採取更多措施，應對其平台上「欺騙性 AI 生成內容的擴散」，並投入資源開發更強大的偵測工具。

加州大學柏克萊分校的 AI 研究員 Sarah Barrington 認為，浮水印技術雖有前景，但並非萬能。她表示：「這就像許多網路安全措施，可能無法做到滴水不漏，但即使只能捕捉到 90% 的案例，也比從零開始好得多。」