Alat Pengesan Imej AI Meta Gagal Kenal Pasti Imej Janaan Sendiri Selepas Dipangkas - Analisis Reuters

Satu alat pengesanan Kecerdasan Buatan (AI) baharu daripada Meta gagal mengenal pasti sebahagian imej janaan AI miliknya sendiri selepas ia dipangkas, menurut analisis yang dijalankan oleh Reuters. Penemuan ini menonjolkan cabaran teknikal dalam mengesahkan kandungan janaan AI selepas ia melalui suntingan biasa, satu kelemahan yang boleh merumitkan usaha memerangi 'deepfake' dalam talian.

Penemuan Utama Analisis

Analisis oleh Reuters melibatkan 40 imej yang dijana menggunakan model imej Meta, Muse Image. Alat pengesan tersebut berjaya mengesahkan kesemua imej asal yang dijana oleh AI.

Walau bagaimanapun, alat itu gagal mengesahkan 55% daripada imej yang sama selepas ia dipangkas kepada kira-kira satu pertiga hingga separuh saiz asalnya. Meta menyatakan alat pratonton ini menggunakan sistem tera air halimunan yang dipanggil Content Seal, yang direka untuk membantu pengguna mengesahkan sama ada imej itu dicipta oleh model AI Meta, walaupun selepas disunting.

Maklum Balas Meta dan Konteks Industri

Sebagai respons kepada penemuan Reuters, Meta menekankan bahawa alat tersebut masih dalam peringkat pratonton. Syarikat itu berkata tera air itu direka bentuk untuk kekal utuh selepas suntingan biasa, tetapi isyaratnya mungkin hilang jika imej dipangkas secara berlebihan.

Ad

Kelemahan ini bukan unik kepada Meta. Syarikat teknologi saingan seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesan mereka tidak kalis sepenuhnya terhadap teknik pengubahan imej. Cabaran ini menjadi semakin kritikal dengan peningkatan kebimbangan terhadap penyebaran maklumat salah melalui 'deepfake', terutamanya semasa tahun pilihan raya yang sibuk.

Pandangan Pakar Mengenai Tera Air Digital

Pakar dalam bidang ini menyatakan bahawa sistem berasaskan tera air mempunyai batasan. Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, menjelaskan bahawa sebarang pengubahsuaian yang membuang atau melemahkan isyarat tera air—seperti pemangkasan, perubahan saiz, atau pemampatan berat—boleh mengurangkan keberkesanannya.

Namun begitu, teknologi ini masih dianggap sebagai satu langkah ke hadapan yang penting. Sarah Barrington, seorang penyelidik AI di UC Berkeley, berpendapat walaupun tidak sempurna, ia merupakan satu kemajuan besar. "Walaupun kita hanya dapat menangkap 90% kes, ia masih satu lonjakan besar berbanding 0%," katanya. Sebelum ini, Lembaga Pengawasan Meta telah menggesa syarikat itu untuk melabur dalam alat pengesanan yang lebih kukuh bagi menangani "penularan kandungan janaan AI yang menipu."