Alat Deteksi AI Meta Gagal Kenali Gambar Buatannya Sendiri Setelah Dipotong, Menurut Analisis Reuters

Alat pendeteksi kecerdasan buatan (AI) baru dari Meta Platforms gagal mengidentifikasi sebagian gambar yang dihasilkan oleh teknologinya sendiri setelah gambar tersebut dipotong, menurut sebuah analisis yang dilakukan oleh Reuters. Temuan ini menyoroti tantangan signifikan dalam memverifikasi konten buatan AI setelah melalui pengeditan umum, sebuah kerentanan yang dapat mempersulit upaya identifikasi *deepfake*.

Temuan Analisis Reuters

Dalam analisis terhadap 40 gambar yang dibuat menggunakan model penghasil gambar Meta, Muse Image, Reuters menemukan bahwa alat pendeteksi tersebut berhasil memverifikasi semua gambar asli. Namun, alat itu gagal memverifikasi 55% dari gambar yang sama setelah dipotong menjadi sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan bahwa alat pratinjau ini dapat mengidentifikasi gambar buatannya sendiri, bahkan setelah diedit, melalui sistem tanda air tak terlihat yang disebut Content Seal. Teknologi ini dirancang untuk disematkan pada setiap gambar yang dihasilkan oleh Muse Image untuk membantu verifikasi.

Respons Meta dan Konteks Industri

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan menjelaskan bahwa meskipun tanda air dirancang untuk tetap utuh setelah pengeditan umum, sinyalnya dapat hilang jika gambar dipotong secara signifikan.

Ad

Keterbatasan ini tidak hanya dialami oleh Meta. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik pengubahan gambar. Masalah ini menjadi semakin mendesak mengingat maraknya konten menyesatkan di tengah tahun pemilu yang sibuk, dan sebelumnya Dewan Pengawas Meta telah mendesak perusahaan untuk berinvestasi pada alat deteksi yang lebih kuat.

Pandangan Pakar

Para ahli di bidang ini menyatakan bahwa sistem berbasis tanda air memang memiliki keterbatasan. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, mengatakan bahwa metode ini bisa sangat efektif jika tanda air tetap utuh. "Namun, modifikasi apa pun yang menghilangkan atau melemahkan sinyal yang disematkan—seperti pemotongan, pengubahan ukuran, kompresi berat, atau pengeditan—dapat mengurangi efektivitasnya," katanya.

Sarah Barrington, seorang peneliti AI di UC Berkeley School of Information, menambahkan bahwa meskipun tidak sepenuhnya sempurna, teknologi tanda air tetap menjanjikan. Menurutnya, bahkan jika sistem ini hanya dapat menangkap 90% kasus, itu sudah merupakan lompatan besar dibandingkan tidak ada deteksi sama sekali.