Alat Pengesan AI Meta Gagal Kenal Pasti Imej Janaan Sendiri yang Dipangkas - Analisis Reuters

Satu analisis oleh Reuters mendapati alat pengesanan Kecerdasan Buatan (AI) baharu daripada Meta gagal mengenal pasti sebahagian besar imej yang dijana oleh modelnya sendiri selepas imej tersebut dipangkas. Penemuan ini menonjolkan cabaran teknikal yang berterusan dalam mengesahkan kandungan janaan AI, terutamanya apabila ia diubah suai.

Penemuan Utama Analisis

Dalam ujian yang dijalankan ke atas 40 imej yang dihasilkan oleh model penjanaan imej Meta, Muse Image, Reuters mendapati alat pengesan itu berjaya mengesahkan semua imej asal. Walau bagaimanapun, alat tersebut gagal mengesahkan 55% imej yang sama selepas ia dipangkas kepada kira-kira satu pertiga hingga separuh saiz asalnya.

Meta menyatakan di laman webnya bahawa alat pengesan ini, yang masih dalam peringkat pratonton, menggunakan sistem tera air halimunan yang dipanggil Content Seal. Teknologi ini direka untuk membenamkan isyarat dalam setiap imej yang dijana oleh Muse Image bagi membolehkan pengesahan, walaupun selepas suntingan biasa seperti pemangkasan.

Respons Meta dan Cabaran Industri

Sebagai respons kepada penemuan Reuters, Meta menekankan bahawa alat tersebut adalah versi pratonton. Syarikat itu berkata walaupun tera air direka bentuk untuk kekal selepas suntingan biasa, isyarat itu mungkin hilang jika imej dipangkas secara berlebihan.

Ad

Cabaran ini tidak terhad kepada Meta sahaja. Syarikat teknologi saingan seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesan mereka tidak kalis gagal terhadap teknik pengubahsuaian imej. Kelemahan ini amat membimbangkan dalam persekitaran semasa, di mana kandungan janaan AI atau 'deepfake' boleh disalahgunakan, terutamanya semasa tahun pilihan raya yang sibuk.

Konteks dan Implikasi

Lembaga Pengawasan Meta sebelum ini telah menggesa syarikat itu untuk meningkatkan usaha bagi menangani "penyebaran kandungan janaan AI yang menipu" di platformnya dan melabur dalam alat pengesanan yang lebih kukuh.

Pakar dalam bidang ini menyatakan bahawa kaedah berasaskan tera air mempunyai had. Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, menjelaskan bahawa sebarang pengubahsuaian yang membuang atau melemahkan isyarat yang dibenamkan—seperti pemangkasan, perubahan saiz, atau pemampatan berat—boleh mengurangkan keberkesanan sistem tersebut. Bagi pelabur, ini menekankan perlumbaan teknologi yang berterusan dan risiko reputasi serta kawal selia yang dihadapi oleh syarikat teknologi dalam menguruskan kandungan di platform mereka.