Alat Pengesan Imej AI Meta Gagal Kenal Pasti Imej Janaan Sendiri yang Dipangkas - Analisis Reuters

Alat pengesanan Kecerdasan Buatan (AI) baharu daripada Meta gagal mengenal pasti beberapa imej janaan AI miliknya sendiri setelah imej tersebut dipangkas, menurut satu analisis oleh Reuters. Penemuan ini menonjolkan cabaran dalam mengesahkan kandungan janaan AI selepas ia melalui pengubahsuaian biasa, satu kelemahan yang boleh merumitkan usaha memerangi 'deepfake' dalam talian.

Analisis Mendedahkan Kelemahan

Dalam analisis terhadap 40 imej yang dihasilkan menggunakan model penjanaan imej Meta, Muse Image, Reuters mendapati alat pengesan tersebut berjaya mengesahkan semua imej asal janaan AI. Walau bagaimanapun, alat itu gagal mengesahkan 55% daripada imej yang sama selepas ia dipangkas kepada kira-kira satu pertiga hingga separuh saiz asalnya.

Meta menyatakan di laman webnya bahawa alat pratonton ini boleh mengenal pasti imej janaan AI miliknya, walaupun selepas dipangkas, melalui sistem tera air halimunan yang dipanggil Content Seal. Sistem ini dibenamkan dalam setiap imej yang dihasilkan oleh Muse Image untuk membantu pengguna mengesahkan asal-usulnya.

Implikasi dan Respons Meta

Kelemahan ini amat signifikan, terutamanya dalam tahun pilihan raya yang sibuk di mana penyebaran maklumat salah melalui 'deepfake' menjadi kebimbangan utama. Sebelum ini, Lembaga Pengawasan Meta telah menggesa syarikat itu untuk meningkatkan usaha menangani "penyebaran kandungan janaan AI yang menipu" dan melabur dalam alat pengesanan yang lebih kukuh.

Ad

Sebagai respons kepada penemuan Reuters, Meta menyatakan bahawa alat tersebut adalah versi pratonton. Syarikat itu berkata tera air tersebut direka untuk kekal utuh selepas suntingan biasa, tetapi isyaratnya mungkin hilang jika imej dipangkas secara berlebihan. Syarikat teknologi saingan seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesan mereka tidak kalis sepenuhnya terhadap teknik pengubahsuaian imej.

Pandangan Pakar

Pakar dalam bidang ini menyatakan bahawa sistem berasaskan tera air mempunyai hadnya. Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, menjelaskan bahawa kaedah tera air boleh menjadi sangat berkesan selagi tera air itu tidak diusik.

"Sebarang pengubahsuaian yang membuang atau melemahkan isyarat yang dibenamkan — seperti pemangkasan, perubahan saiz, pemampatan berat, atau penyuntingan — boleh mengurangkan keberkesanannya, bergantung pada cara tera air itu direka," kata Lyu. Ini menekankan bahawa walaupun teknologi ini menjanjikan, ia bukanlah penyelesaian yang sempurna untuk masalah pengesahan kandungan AI.