Alat Pengesan AI Meta Gagal Kenal Pasti Imej Janaan Sendiri yang Dipangkas - Analisis Reuters

Satu analisis oleh Reuters mendapati alat pengesan kecerdasan buatan (AI) baharu daripada Meta gagal mengenal pasti beberapa imej janaan AI miliknya sendiri selepas imej tersebut dipangkas. Penemuan ini menyerlahkan cabaran berterusan dalam mengesahkan kandungan janaan AI selepas ia melalui pengubahsuaian biasa, satu batasan yang boleh merumitkan usaha memerangi 'deepfake' dalam talian.

Penemuan Analisis Reuters

Alat pengesan ini telah diperkenalkan bersama model penjanaan imej Meta, Muse Image. Dalam analisis terhadap 40 imej yang dihasilkan menggunakan Muse Image, Reuters mendapati alat tersebut berjaya mengesahkan semua imej asal yang dijana AI.

Walau bagaimanapun, keberkesanannya menurun secara mendadak selepas pengubahsuaian. Alat itu gagal mengesahkan 55% daripada imej yang sama selepas ia dipangkas kepada kira-kira satu pertiga hingga separuh daripada saiz asalnya. Meta menyatakan di laman webnya bahawa alat itu menggunakan sistem tera air halimunan yang dipanggil Content Seal untuk mengenal pasti imej, walaupun selepas suntingan seperti pemangkasan.

Kelemahan dan Maklum Balas Meta

Sebagai tindak balas kepada penemuan Reuters, Meta menyatakan bahawa alat tersebut masih dalam versi pratonton. Syarikat itu menjelaskan bahawa walaupun tera air direka untuk kekal utuh selepas suntingan biasa, isyaratnya mungkin hilang jika imej dipangkas secara berlebihan.

Ad

Kelemahan ini bukan unik kepada Meta. Pesaing seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesan mereka tidak kalis sepenuhnya terhadap teknik pengubahsuaian imej. Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, mengulas bahawa kaedah berasaskan tera air boleh menjadi kurang berkesan jika isyarat tera air itu dialih keluar atau dilemahkan melalui pemangkasan, pemampatan berat, atau penyuntingan.

Implikasi Lebih Luas

Kegagalan untuk mengesan imej AI yang diubah suai secara konsisten membawa implikasi penting, terutamanya dalam persekitaran maklumat yang sensitif seperti pilihan raya. Keupayaan untuk mengesahkan kandungan digital adalah penting untuk memerangi penyebaran maklumat salah.

Pada bulan Mac, Lembaga Pengawasan Meta sendiri telah menggesa syarikat itu untuk meningkatkan usaha menangani "penyebaran kandungan janaan AI yang menipu" dan melabur dalam alat pengesanan yang lebih kukuh. Walaupun teknologi tera air menjanjikan, pakar seperti Sarah Barrington dari UC Berkeley School of Information menyatakan bahawa ia mungkin tidak "sepenuhnya kalis air," tetapi masih merupakan satu kemajuan yang besar berbanding tiada pengesanan sama sekali.