Alat Pengesan AI Meta Gagal Kenal Pasti Imej Sendiri yang Dipangkas – Analisis Reuters

Satu analisis oleh Reuters mendapati alat pengesan kecerdasan buatan (AI) baharu daripada Meta gagal mengenal pasti sebahagian besar imej janaan AI sendiri selepas ia diubah suai melalui pemangkasan. Penemuan ini menimbulkan persoalan serius tentang keberkesanan teknologi tera air (*watermarking*) dalam usaha membendung penyebaran kandungan *deepfake*.

Analisis Mendedahkan Kelemahan

Alat pengesan ini, yang diperkenalkan bersama model penjanaan imej Meta, Muse Image, direka untuk mengesahkan imej melalui sistem tera air tidak kelihatan yang dipanggil Content Seal. Menurut analisis Reuters ke atas 40 imej yang dijana oleh Muse Image, alat tersebut berjaya mengesahkan semua imej asal.

Walau bagaimanapun, keberkesanannya menurun secara mendadak selepas pengubahsuaian mudah dilakukan. Reuters mendapati alat itu gagal mengesahkan 55% daripada imej yang sama selepas ia dipangkas kepada kira-kira satu pertiga hingga separuh saiz asalnya.

Implikasi dan Respons Syarikat

Kegagalan ini menonjolkan cabaran besar dalam mengesahkan kandungan janaan AI, terutamanya apabila ia diubah suai. Ini merupakan kebimbangan utama dalam persekitaran semasa, termasuk menjelang pilihan raya di Amerika Syarikat, di mana kandungan palsu boleh memberi impak yang besar.

Ad

Sebagai respons kepada penemuan Reuters, Meta menyatakan bahawa alat tersebut masih dalam versi pratonton. Syarikat itu mengakui bahawa walaupun tera air direka untuk bertahan daripada suntingan biasa, isyaratnya mungkin hilang jika imej dipangkas secara berlebihan. Syarikat teknologi saingan seperti Google dan OpenAI juga sebelum ini telah memberi amaran bahawa alat pengesan mereka tidak kalis terhadap teknik pengubahsuaian imej.

Pandangan Pakar

Pakar dalam bidang forensik imej AI menyatakan bahawa sistem berasaskan tera air sememangnya mempunyai batasan. Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, menjelaskan bahawa sebarang pengubahsuaian seperti pemangkasan, perubahan saiz, atau pemampatan berat boleh melemahkan atau membuang isyarat tera air yang terbenam.

Sebelum ini, Lembaga Pengawasan Meta telah menggesa syarikat itu untuk melabur dalam alat pengesanan yang lebih kukuh bagi menangani "penularan kandungan janaan AI yang menipu" di platformnya. Walaupun teknologi ini tidak sempurna, penyelidik seperti Sarah Barrington dari UC Berkeley School of Information berpendapat ia masih satu langkah ke hadapan yang penting, dengan menyatakan bahawa "walaupun jika kita hanya dapat menangkap 90% kes, ia masih satu lonjakan besar daripada 0%."