Alat Pengesan AI Meta Gagal Kenal Pasti Imej Janaan Sendiri yang Dipotong - Analisis Reuters

Satu analisis oleh Reuters mendapati alat pengesanan kecerdasan buatan (AI) baharu daripada Meta gagal mengenal pasti sebahagian besar imej janaan AI daripada modelnya sendiri selepas imej tersebut dipotong. Penemuan ini menonjolkan cabaran teknikal dalam mengesahkan kandungan janaan AI, terutamanya ketika kebimbangan terhadap penyebaran maklumat palsu semakin meningkat.

Kelemahan dalam Sistem Tera Air

Dalam analisis terhadap 40 imej yang dihasilkan menggunakan model Muse Image Meta, Reuters mendapati alat pengesan itu berjaya mengesahkan semua imej asal. Walau bagaimanapun, alat tersebut gagal mengesahkan 55% daripada imej yang sama selepas ia dipotong kepada kira-kira satu pertiga hingga separuh saiz asalnya.

Meta menyatakan alat ini, yang masih dalam versi pratonton, menggunakan sistem tera air halimunan yang dipanggil *Content Seal*. Sistem ini direka untuk membenamkan isyarat pengenalan pada setiap imej yang dijana. Sebagai respons kepada penemuan Reuters, syarikat itu berkata tera air tersebut direka untuk kekal selepas suntingan biasa, tetapi isyaratnya mungkin hilang jika imej dipotong secara berlebihan.

Implikasi kepada Keselamatan Dalam Talian

Kegagalan untuk mengesan imej yang diubah suai menimbulkan kebimbangan yang signifikan, terutamanya dalam tahun pilihan raya yang sibuk di mana kandungan *deepfake* atau pemalsuan mendalam boleh digunakan untuk tujuan jahat. Had ini boleh menyukarkan usaha untuk mengenal pasti dan membendung penyebaran kandungan palsu di platform media sosial.

Ad

Sebelum ini, Lembaga Pengawasan Meta sendiri telah menggesa syarikat itu untuk melabur dalam alat pengesanan yang lebih kukuh bagi menangani "penularan kandungan janaan AI yang menipu." Syarikat teknologi saingan seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesanan mereka tidak kalis terhadap teknik pengubahsuaian imej.

Pandangan Pakar

Pakar dalam bidang forensik imej AI menyatakan bahawa sistem berasaskan tera air sememangnya mempunyai batasan. Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, menjelaskan bahawa kaedah ini sangat berkesan selagi tera air tidak terjejas.

"Sebarang pengubahsuaian yang membuang atau melemahkan isyarat yang dibenamkan—seperti pemotongan, perubahan saiz, pemampatan berat, atau penyuntingan—boleh mengurangkan keberkesanannya," kata Lyu. Walaupun begitu, penyelidik lain berpendapat bahawa walaupun tidak sempurna, teknologi ini masih merupakan satu langkah ke hadapan yang penting berbanding tiada sistem pengesanan sama sekali.