Alat Deteksi AI Meta Gagal Kenali Gambar Buatannya Sendiri yang Dipotong, Ungkap Analisis Reuters

Alat deteksi kecerdasan buatan (AI) baru dari Meta Platforms gagal mengidentifikasi sebagian gambar yang dihasilkan oleh AI-nya sendiri setelah gambar tersebut dipotong, menurut analisis yang dilakukan oleh Reuters. Temuan ini menyoroti tantangan signifikan dalam memverifikasi konten buatan AI setelah melalui pengeditan umum, sebuah kelemahan yang dapat mempersulit identifikasi *deepfake* di tengah tahun pemilu yang sibuk.

Temuan Analisis Reuters

Dalam analisis terhadap 40 gambar yang dibuat menggunakan model penghasil gambar Meta, Muse Image, Reuters menemukan bahwa alat deteksi tersebut berhasil memverifikasi semua gambar asli. Namun, alat itu gagal memverifikasi 55% dari gambar yang sama setelah dipotong sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan bahwa alat pendeteksi pratinjau ini dapat mengidentifikasi gambar buatannya sendiri, bahkan jika dipotong, melalui sistem tanda air tak terlihat yang disebut Content Seal. Sistem ini dirancang untuk disematkan pada setiap gambar yang dihasilkan Muse Image untuk membantu pengguna memverifikasi asalnya.

Tanggapan Meta dan Konteks Industri

Menanggapi temuan Reuters, Meta menekankan bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan menjelaskan bahwa tanda air dirancang untuk tetap utuh setelah melalui pengeditan umum, tetapi sinyalnya dapat hilang jika gambar dipotong secara besar-besaran.

Ad

Tantangan ini tidak hanya dihadapi oleh Meta. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik pengubahan gambar. Pada bulan Maret, Dewan Pengawas Meta telah meminta perusahaan untuk berbuat lebih banyak dalam mengatasi "proliferasi konten AI yang menipu" dan berinvestasi pada alat deteksi yang lebih kuat.

Implikasi dan Pandangan Ahli

Para ahli menyatakan bahwa sistem berbasis tanda air memiliki keterbatasan inheren. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, mengatakan bahwa meskipun efektif, metode ini dapat dilemahkan oleh modifikasi seperti pemotongan, perubahan ukuran, atau kompresi berat.

Sarah Barrington, seorang peneliti AI di UC Berkeley School of Information, menambahkan bahwa meskipun tidak "sepenuhnya kedap air", teknologi tanda air tetap menjanjikan. Menurutnya, menangkap bahkan 90% kasus sudah merupakan lompatan besar dibandingkan tidak sama sekali. Kegagalan dalam deteksi ini menimbulkan kekhawatiran tentang penyebaran disinformasi visual, terutama menjelang pemilu sela di AS.