路透社測試：Meta AI 圖像偵測工具無法辨識經裁切的自家生成圖片

路透社 (Reuters) 的一項分析發現，科技巨擘 Meta Platforms 新推出的 AI 圖像偵測工具存在漏洞，無法穩定辨識其自家 AI 模型生成、但經過基本編輯（如裁切）的圖片。這項發現對內容驗證技術的可靠性提出了質疑，尤其是在利用 AI 生成的虛假資訊日益猖獗的當下。

測試揭露辨識漏洞

路透社利用 Meta 新發表的圖像生成模型 Muse Image 創造了 40 張圖片進行測試。結果顯示，該偵測工具能夠百分之百驗證所有未經修改的原始 AI 生成圖片。

然而，當這些圖片被裁切至原始尺寸的三分之一到二分之一後，情況發生了顯著變化。在這些經過裁切的圖片中，該偵測工具高達 55% 的比例無法成功驗證其為 AI 生成。Meta 指出，該工具依賴一種名為「內容封印」(Content Seal) 的隱形浮水印系統，該系統被嵌入到由 Muse Image 生成的每張圖片中，旨在幫助用戶驗證其來源。

Meta 回應與專家觀點

針對路透社的測試結果，Meta 表示該偵測工具目前仍為「預覽版」。公司承認，雖然浮水印的設計是為了在常見的編輯操作後仍能保持完整，但如果圖片被大幅裁切，其訊號確實可能會遺失。

Ad

研究 AI 圖像鑑識的紐約州立大學水牛城分校電腦科學教授呂思偉 (Siwei Lyu) 指出，基於浮水印的系統有其固有限制。他表示：「任何移除或削弱嵌入訊號的修改，如裁切、調整大小或高度壓縮，都可能降低其有效性。」其他科技公司如 Google 和 OpenAI 也曾警告，其偵測工具並非萬無一失。

對市場的潛在影響

這項技術上的限制，可能讓在社群平台上識別和打擊「深偽」內容的努力變得更加困難，尤其是在包括美國期中選舉在內的全球重要選舉年。內容的真實性對維護平台信譽和社會穩定至關重要。

此前，Meta 的監督委員會 (Oversight Board) 已敦促公司投入更多資源，開發更強大的偵測工具，以應對其平台上「欺騙性 AI 生成內容的擴散」。此類技術的可靠性，將持續成為投資者和監管機構關注的焦點。