Alat Deteksi AI Meta Gagal Kenali Gambar Buatannya Sendiri yang Dipangkas

Alat deteksi kecerdasan buatan (AI) baru dari Meta Platforms (META) gagal mengidentifikasi beberapa gambar yang dihasilkannya sendiri setelah gambar tersebut dimodifikasi, menurut analisis Reuters. Temuan ini menyoroti tantangan signifikan dalam memverifikasi konten yang dihasilkan AI, sebuah kelemahan yang dapat mempersulit identifikasi *deepfake* di tengah tahun politik yang sibuk.

Temuan Utama Analisis

Dalam analisis terhadap 40 gambar yang dibuat menggunakan model AI penghasil gambar Meta, Muse Image, Reuters menemukan bahwa alat deteksi tersebut berhasil memverifikasi semua gambar asli. Namun, alat tersebut gagal mengidentifikasi 55% dari gambar yang sama setelah dipangkas menjadi sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan bahwa alat deteksi versi pratinjau ini menggunakan sistem *watermark* tak terlihat yang disebut Content Seal. Sistem ini dirancang untuk disematkan pada setiap gambar yang dihasilkan Muse Image untuk membantu pengguna memverifikasi keasliannya, bahkan setelah melalui proses pengeditan umum seperti pemangkasan.

Respons Meta dan Konteks Industri

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam versi pratinjau. Perusahaan menjelaskan bahwa meskipun *watermark* dirancang untuk tetap utuh setelah pengeditan umum, sinyalnya dapat hilang jika gambar dipangkas secara ekstrem.

Ad

Tantangan ini tidak hanya dihadapi oleh Meta. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik pengubahan gambar. Hal ini menunjukkan adanya keterbatasan teknologi yang lebih luas dalam industri ini.

Implikasi dan Pandangan Pakar

Keterbatasan dalam mendeteksi gambar yang dimodifikasi menimbulkan kekhawatiran, terutama terkait potensi penyebaran misinformasi. Pada bulan Maret, Dewan Pengawas Meta sendiri telah meminta perusahaan untuk berinvestasi pada alat deteksi yang lebih kuat guna mengatasi "proliferasi konten AI generatif yang menipu" di platformnya.

Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, mengatakan bahwa metode berbasis *watermark* bisa sangat efektif, tetapi rentan terhadap modifikasi. "Setiap modifikasi yang menghilangkan atau melemahkan sinyal yang disematkan—seperti pemangkasan, pengubahan ukuran, atau kompresi berat—dapat mengurangi efektivitasnya," kata Lyu. Para ahli sepakat bahwa meskipun tidak sempurna, teknologi ini merupakan langkah maju yang penting dibandingkan tidak ada verifikasi sama sekali.