Alat Pengesan AI Meta Gagal Kenal Pasti Imej Sendiri Selepas Dipangkas - Analisis Reuters

Satu analisis oleh Reuters mendedahkan bahawa alat pengesanan kecerdasan buatan (AI) baharu daripada Meta gagal mengenal pasti sebahagian imej yang dijana oleh teknologinya sendiri selepas imej tersebut dipangkas. Penemuan ini menonjolkan cabaran berterusan dalam mengesahkan kandungan janaan AI, terutamanya apabila ia diubah suai.

Penemuan Utama Analisis

Alat pengesan tersebut, yang diperkenalkan bersama model penjanaan imej Meta, Muse Image, diuji oleh Reuters ke atas 40 imej yang dijana menggunakan model tersebut. Analisis mendapati alat itu berjaya mengesahkan kesemua imej asal.

Walau bagaimanapun, keberkesanannya menurun secara mendadak selepas pengubahsuaian. Alat itu gagal mengesahkan 55% daripada imej yang sama selepas ia dipangkas kepada kira-kira satu pertiga hingga separuh saiz asalnya. Kegagalan ini berlaku walaupun Meta menyatakan sistem tera air tidak kelihatan yang dipanggil 'Content Seal' direka untuk kekal utuh selepas suntingan biasa.

Konteks dan Implikasi

Kelemahan ini menimbulkan kebimbangan mengenai keupayaan untuk mengenal pasti kandungan `deepfake` dalam talian, satu isu kritikal terutamanya semasa tahun pilihan raya yang sibuk. Keupayaan untuk memintas sistem pengesanan melalui pengubahsuaian mudah seperti memangkas imej boleh menjejaskan usaha memerangi penyebaran maklumat salah.

Ad

Sebagai respons kepada penemuan Reuters, Meta menyatakan bahawa alat tersebut masih dalam versi pratonton. Syarikat itu mengakui bahawa isyarat tera air mungkin hilang jika imej dipangkas secara berlebihan. Syarikat teknologi lain seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesanan mereka tidak kalis terhadap teknik pengubahsuaian imej.

Pandangan Pakar

Pakar dalam bidang ini menekankan batasan teknologi semasa. Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, menyatakan bahawa kaedah berasaskan tera air boleh menjadi sangat berkesan, tetapi keberkesanannya boleh berkurangan akibat pengubahsuaian seperti memangkas, mengubah saiz, atau pemampatan berat.

Walaupun terdapat batasan, sesetengah penyelidik melihatnya sebagai satu langkah ke hadapan. Sarah Barrington, seorang penyelidik AI di UC Berkeley, berpendapat bahawa walaupun tidak sempurna, sistem tera air masih merupakan satu lonjakan besar berbanding tiada sistem pengesanan sama sekali, dengan menyatakan bahawa "walaupun kita hanya dapat menangkap 90% kes, itu masih satu lonjakan besar dari 0%."