Meta AI 圖像偵測工具被揭露瑕疵，路透社測試發現裁切後辨識率大幅下降

根據路透社的一項最新分析，科技巨頭 Meta Platforms 推出的新型 AI 偵測工具存在顯著漏洞，該工具在識別自家 AI 模型生成但經過裁切的圖像時，成功率大幅下降。這項發現凸顯了在數位圖像經過常見編輯後，驗證其來源的困難性，也為打擊「深度偽造」(deepfake) 內容帶來嚴峻挑戰。

路透社測試揭露偵測漏洞

路透社針對 Meta 的圖像生成模型 Muse Image 所產生的 40 張圖片進行了測試。結果顯示，Meta 的偵測工具能夠百分之百驗證所有未經修改的原始 AI 生成圖像。

然而，當這些圖像被裁切至原始尺寸的三分之一到二分之一後，情況發生了巨大變化。在這些經過裁切的圖像中，該偵測工具未能成功驗證的比例高達 55%。這項測試結果對 Meta 宣稱的技術能力提出了質疑。

Meta 在其網站上說明，該偵測工具是透過一種名為「Content Seal」的隱形浮水印系統來運作。該系統會嵌入到由 Muse Image 生成的每一張圖像中，旨在幫助用戶驗證圖像是否由 Meta 的 AI 模型創建，即使經過裁切等常見編輯也不受影響。

Meta 回應與技術限制

Ad

針對路透社的測試結果，Meta 指出該工具目前仍為「預覽版」。公司表示，浮水印的設計旨在承受常見的編輯操作，但如果圖像被「大幅度裁切」，其嵌入的訊號確實可能會遺失。

此一限制並非 Meta 獨有。其競爭對手如 Google 和 OpenAI 也曾警告，自家的偵測工具並非萬無一失，同樣可能受到圖像修改技術的影響。這反映了整個產業在對抗 AI 生成的誤導性資訊方面，仍面臨著共同的技術瓶頸。

專家觀點與市場影響

隨著美國期中選舉等重要政治活動的臨近，有效辨識 AI 生成內容的能力變得至關重要。今年三月，Meta 的監督委員會已敦促公司投入更多資源，開發更強大的偵測工具，以應對其平台上「欺騙性 AI 生成內容的擴散」。

紐約州立大學水牛城分校的電腦科學教授 Siwei Lyu 表示，基於浮水印的偵測方法在浮水印保持完整時非常有效，但任何移除或削弱嵌入訊號的修改，如裁切、壓縮或編輯，都可能降低其有效性。對投資人而言，這項發展凸顯了科技公司在 AI 領域面臨的技術與信譽風險。平台辨識與標記 AI 內容的能力，將直接影響用戶信任度與潛在的監管審查，是評估其長期價值的重要因素。