Meta AI 圖像偵測工具遭質疑，路透社測試顯示裁切後辨識率大幅下降

根據路透社的一項分析，科技巨擘 Meta 新推出的 AI 偵測工具，在辨識部分由自家圖像生成模型所創造、但經過裁切處理的圖片時會失效。這項發現引發了外界對於在政治選舉繁忙的年度，有效防範深度偽造 (deepfakes) 內容傳播能力的擔憂。

路透社測試揭示偵測漏洞

路透社針對 Meta 新發表的圖像生成模型「Muse Image」所產生的 40 張圖片進行了測試。結果發現，Meta 的偵測工具能夠成功驗證所有未經修改的原始 AI 生成圖像。

然而，當這些圖像被裁切至原始尺寸的三分之一到二分之一後，該工具的表現出現顯著下滑，對其中 55% 的經裁切圖片無法成功驗證。Meta 的系統仰賴一種名為「Content Seal」的隱形浮水印技術，該技術被嵌入到每一張由 Muse Image 生成的圖片中，旨在幫助用戶驗證其來源。

Meta 回應與技術限制

針對路透社的測試結果，Meta 指出該偵測工具目前仍為「預覽版」。公司表示，浮水印的設計宗旨在於能夠承受常見的編輯操作，但如果圖像經過大幅度裁切，其嵌入的信號便可能遺失。

Ad

這並非 Meta 獨有的挑戰。其競爭對手如 Google 和 OpenAI 也曾警告，自家的偵測工具並非萬無一失，同樣可能受到圖像修改技術的影響。紐約州立大學水牛城分校的電腦科學教授 Siwei Lyu 表示，基於浮水印的系統有其固有限制。他解釋道：「任何移除或削弱嵌入信號的修改，如裁切、調整大小或高度壓縮，都可能降低其有效性。」

市場意涵與監管壓力

此一技術限制對 Meta 而言，不僅是技術挑戰，也構成潛在的商業與聲譽風險，尤其是在美國期中選舉等重大政治活動期間，對抗不實資訊傳播的壓力日益增加。無法可靠地偵測經修改的 AI 內容，可能引發更嚴格的監管審查，並影響用戶對平台的信任。

事實上，Meta 的監督委員會（Oversight Board）先前已在三月份呼籲公司投入更多資源，開發更強大的偵測工具，以應對其平台上「欺騙性 AI 生成內容的擴散」。儘管存在挑戰，部分專家仍認為浮水印技術是重要的一步。加州大學柏克萊分校資訊學院的 AI 研究員 Sarah Barrington 便認為，即使無法做到百分之百防水，「但若能捕捉到 90% 的案例，也已經是從零開始的巨大飛躍。」