Alat Pengesan AI Meta Gagal Kenal Pasti Imej Janaan Sendiri yang Dipangkas - Analisis Reuters

Satu analisis oleh Reuters mendapati alat pengesan kecerdasan buatan (AI) baharu daripada Meta gagal mengenal pasti sebahagian imej janaan AI miliknya sendiri selepas ia diubah suai. Penemuan ini menonjolkan cabaran teknikal yang berterusan dalam mengesahkan kandungan janaan AI, satu isu penting dalam era penyebaran maklumat palsu.

Ujian Mendedahkan Kelemahan

Alat pengesan tersebut, yang diperkenalkan bersama model penjanaan imej Meta, Muse Image, telah diuji oleh Reuters ke atas 40 imej yang dijana oleh model itu sendiri. Analisis tersebut mendapati bahawa walaupun alat itu berjaya mengesahkan semua imej asal, ia gagal mengesahkan 55% daripada imej yang sama selepas ia dipangkas (cropped) kepada kira-kira satu pertiga hingga separuh saiz asalnya.

Penemuan ini menimbulkan kebimbangan mengenai keupayaan untuk mengesan imej palsu atau 'deepfake' dalam talian, terutamanya semasa tahun pilihan raya yang sibuk. Keupayaan untuk memintas sistem pengesanan melalui pengubahsuaian mudah seperti memangkas imej merupakan satu batasan yang signifikan.

Cabaran Penanda Air Digital

Teknologi Meta bergantung pada sistem tera air halimunan yang dipanggil Content Seal, yang dibenamkan dalam setiap imej yang dijana oleh Muse Image. Sistem ini direka untuk membantu pengguna mengesahkan sama ada imej itu dicipta oleh model AI Meta, walaupun selepas melalui beberapa suntingan biasa.

Ad

Sebagai respons kepada analisis Reuters, Meta menyatakan bahawa alat tersebut masih dalam versi pratonton. Syarikat itu mengakui bahawa walaupun tera air itu direka bentuk untuk kekal utuh selepas suntingan biasa, isyaratnya mungkin hilang jika imej dipangkas dengan ketara.

Implikasi Industri dan Desakan Kawal Selia

Masalah ini tidak terhad kepada Meta sahaja. Syarikat teknologi saingan seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesan mereka tidak kalis terhadap teknik pengubahsuaian imej. Pakar dalam bidang ini, seperti profesor sains komputer Siwei Lyu dari State University of New York di Buffalo, mengesahkan bahawa kaedah berasaskan tera air mempunyai had, di mana keberkesanannya boleh berkurangan akibat pemangkasan, pemampatan berat, atau penyuntingan.

Pada bulan Mac, Lembaga Pengawasan Meta sendiri telah menggesa syarikat itu untuk melabur dalam alat pengesanan yang lebih kukuh bagi menangani "penularan kandungan janaan AI yang menipu" di platformnya. Walaupun tidak sempurna, penyelidik seperti Sarah Barrington dari UC Berkeley menyatakan bahawa sistem sebegini masih merupakan satu langkah ke hadapan yang penting berbanding tiada sistem pengesanan langsung.