Alat Pengesanan AI Meta Gagal Kenal Pasti Imejnya Sendiri Selepas Dipangkas - Analisis Reuters

Alat pengesanan kecerdasan buatan (AI) baharu daripada Meta gagal mengenal pasti sebahagian imej janaan AI miliknya sendiri selepas ia dipangkas, menurut satu analisis oleh Reuters. Penemuan ini menonjolkan cabaran teknikal dalam mengesahkan imej janaan AI selepas ia melalui pengubahsuaian biasa, satu kelemahan yang boleh merumitkan usaha memerangi `deepfake` dalam talian.

Penemuan Analisis Reuters

Dalam analisis terhadap 40 imej yang dijana menggunakan model imej Meta, Muse Image, Reuters mendapati alat pengesanan tersebut berjaya mengesahkan semua imej asal. Walau bagaimanapun, alat itu gagal mengesahkan 55% daripada imej yang sama selepas ia dipangkas kepada kira-kira satu pertiga hingga separuh daripada saiz asalnya.

Meta menyatakan alat pratontonnya boleh mengenal pasti imej janaan AI miliknya, walaupun selepas dipangkas, melalui sistem tera air halimunan yang dipanggil Content Seal. Teknologi ini dibenamkan dalam setiap imej yang dijana oleh Muse Image untuk membantu pengguna mengesahkan asal usulnya.

Kelemahan Teknologi dan Respons Meta

Sebagai respons kepada penemuan Reuters, Meta menyatakan bahawa alat tersebut masih dalam peringkat pratonton. Syarikat itu berkata tera air tersebut direka untuk kekal utuh selepas suntingan biasa, tetapi isyaratnya mungkin hilang jika imej dipangkas secara berlebihan.

Ad

Kelemahan ini bukan unik kepada Meta; syarikat teknologi saingan seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesanan mereka tidak kalis sepenuhnya terhadap teknik pengubahsuaian imej. Pakar dalam bidang ini menekankan bahawa kaedah berasaskan tera air amat berkesan selagi tera air itu tidak diusik, tetapi keberkesanannya boleh berkurangan akibat suntingan seperti pemangkasan, pemampatan berat, atau perubahan saiz.

Implikasi Terhadap Kandungan Dalam Talian

Kegagalan untuk mengesan imej AI yang diubah suai secara konsisten menimbulkan kebimbangan yang signifikan terhadap penyebaran maklumat salah, terutamanya kandungan `deepfake`. Pada bulan Mac, Lembaga Pengawasan Meta telah menggesa syarikat itu untuk meningkatkan usaha bagi menangani "penyebaran kandungan janaan AI yang menipu" dan melabur dalam alat pengesanan yang lebih kukuh.

Walaupun teknologi tera air mempunyai batasan, para penyelidik melihatnya sebagai satu langkah penting ke hadapan. Sarah Barrington, seorang penyelidik AI di UC Berkeley School of Information, menyatakan bahawa walaupun ia mungkin tidak sempurna, ia masih merupakan satu kemajuan besar berbanding tiada sistem pengesanan sama sekali.