Alat Pengesan AI Meta Gagal Kenal Pasti Imej Sendiri Selepas Dipangkas - Analisis Reuters

Satu analisis oleh Reuters mendapati alat pengesanan kecerdasan buatan (AI) baharu daripada Meta gagal mengenal pasti sebahagian imej yang dijana oleh teknologinya sendiri selepas imej tersebut dipangkas. Penemuan ini menonjolkan cabaran teknikal dalam mengesahkan kandungan janaan AI yang telah diubah suai, satu isu kritikal dalam persekitaran digital semasa.

Keputusan Ujian Reuters

Alat pengesan ini, yang diperkenalkan bersama model penjanaan imej Meta, Muse Image, direka untuk mengenal pasti imej ciptaan AI syarikat itu melalui sistem tera air halimunan yang dikenali sebagai Content Seal. Walau bagaimanapun, ujian yang dijalankan oleh Reuters menunjukkan batasan yang ketara.

Dalam analisis terhadap 40 imej yang dijana menggunakan Muse Image, Reuters mendapati:

• Alat tersebut berjaya mengesahkan 100% daripada imej asal yang tidak diubah suai.
• Namun, ia gagal mengesahkan 55% daripada imej yang sama selepas ia dipangkas kepada kira-kira satu pertiga hingga separuh saiz asalnya.

Kegagalan ini menimbulkan persoalan tentang keupayaan alat tersebut untuk menangani suntingan imej yang lazim, yang berpotensi melemahkan usaha untuk mengenal pasti kandungan 'deepfake' dalam talian.

Respons Meta dan Konteks Industri

Ad

Sebagai respons kepada penemuan Reuters, Meta menyatakan bahawa alat tersebut masih dalam fasa pratonton. Syarikat itu menjelaskan bahawa walaupun tera air direka untuk kekal selepas suntingan biasa, isyaratnya mungkin hilang jika imej itu "dipangkas dengan ketara".

Kelemahan ini bukan unik kepada Meta. Syarikat teknologi lain seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesanan mereka tidak kalis kegagalan terhadap teknik pengubahan imej. Sebelum ini, Lembaga Pengawasan Meta telah menggesa syarikat itu untuk mempertingkatkan usaha dalam menangani "penyebaran kandungan janaan AI yang menipu" di platformnya.

Batasan Teknologi Tera Air

Pakar dalam bidang forensik imej AI menjelaskan bahawa sistem berasaskan tera air sememangnya mempunyai batasan. Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, menyatakan bahawa sebarang pengubahsuaian seperti memangkas, mengubah saiz, atau pemampatan berat boleh melemahkan atau membuang isyarat tera air yang terbenam.

Walaupun tidak sempurna, sesetengah penyelidik percaya teknologi ini masih bernilai. Sarah Barrington, seorang penyelidik AI di UC Berkeley School of Information, berpendapat bahawa walaupun ia mungkin tidak "sepenuhnya kedap air", dapat mengesan sebahagian besar kandungan palsu sudah merupakan satu kemajuan besar berbanding sifar.