Alat Pengesan Imej AI Meta Gagal Kenal Pasti Imej Pangkasan - Analisis Reuters

Alat pengesan imej kecerdasan buatan (AI) baharu daripada Meta gagal mengenal pasti beberapa imej janaan AI miliknya sendiri selepas ia dipangkas, menurut satu analisis oleh Reuters. Penemuan ini menonjolkan cabaran dalam mengesahkan kandungan janaan AI selepas pengubahsuaian biasa, satu kelemahan yang boleh merumitkan usaha memerangi pemalsuan mendalam (*deepfake*).

Analisis Reuters Dedah Kelemahan Ketara

Dalam satu analisis terhadap 40 imej yang dijana menggunakan model imej baharu Meta, Muse Image, Reuters mendapati alat pengesan itu berjaya mengesahkan semua imej asal yang tidak diubah suai. Walau bagaimanapun, keadaannya berbeza selepas imej tersebut diubah suai.

Menurut analisis itu, alat tersebut gagal mengesahkan 55% daripada imej yang sama selepas ia dipangkas kepada kira-kira satu pertiga hingga separuh saiz asalnya. Ini berlaku walaupun Meta menyatakan alat pratontonnya direka untuk mengenal pasti imej janaan AI miliknya melalui sistem tera air halimunan yang dipanggil Content Seal, yang sepatutnya tahan terhadap suntingan biasa seperti pemangkasan.

Respons Meta dan Pandangan Pakar

Sebagai respons kepada penemuan Reuters, Meta menyatakan bahawa alat tersebut masih dalam fasa pratonton. Syarikat itu mengakui bahawa isyarat tera air mungkin hilang jika imej dipangkas secara berlebihan. Had ini bukan unik kepada Meta; syarikat teknologi saingan seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesanan mereka tidak kalis sepenuhnya terhadap teknik pengubahsuaian imej.

Ad

Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, mengulas bahawa sistem berasaskan tera air mempunyai had. Beliau menjelaskan bahawa "sebarang pengubahsuaian yang membuang atau melemahkan isyarat terbenam — seperti pemangkasan, saiz semula, pemampatan berat, atau penyuntingan — boleh mengurangkan keberkesanannya."

Implikasi kepada Pengesahan Kandungan

Kelemahan dalam teknologi pengesanan ini amat membimbangkan dalam konteks tahun pilihan raya yang sibuk, di mana penyebaran imej palsu boleh memberi impak yang besar kepada sentimen awam. Kesukaran untuk mengenal pasti kandungan yang diubah suai boleh menjejaskan kepercayaan terhadap maklumat dalam talian.

Pada bulan Mac, Lembaga Pengawasan Meta sendiri telah menggesa syarikat itu untuk meningkatkan usaha menangani "penularan kandungan janaan AI yang menipu" dan melabur dalam alat pengesanan yang lebih kukuh. Walaupun teknologi tera air digital dilihat sebagai langkah ke hadapan, penemuan ini menunjukkan bahawa ia masih belum menjadi penyelesaian yang sempurna untuk masalah maklumat salah yang dijana oleh AI.