Alat Deteksi AI Meta Gagal Kenali Sebagian Gambar Buatannya Sendiri, Menurut Analisis Reuters

Alat deteksi kecerdasan buatan (AI) baru dari Meta Platforms gagal mengidentifikasi sebagian gambar yang dihasilkannya sendiri setelah gambar tersebut dipotong secara signifikan. Temuan ini, berdasarkan analisis yang dilakukan oleh Reuters, menyoroti tantangan besar dalam memverifikasi konten AI di tengah maraknya misinformasi visual, terutama menjelang tahun pemilu yang sibuk.

Analisis Reuters Ungkap Kelemahan

Dalam pengujian terhadap 40 gambar yang dibuat menggunakan model AI penghasil gambar Meta, Muse Image, Reuters menemukan bahwa alat deteksi tersebut berhasil memverifikasi semua gambar asli. Namun, alat itu gagal mengidentifikasi 55% dari gambar yang sama setelah ukurannya dipotong menjadi sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan bahwa alat pendeteksi versi pratinjau ini menggunakan sistem *watermark* tak terlihat yang disebut Content Seal. Teknologi ini dirancang untuk disematkan pada setiap gambar yang dihasilkan Muse Image untuk membantu verifikasi, bahkan setelah melalui proses pengeditan umum seperti pemotongan.

Tanggapan Meta dan Konteks Industri

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan mengakui bahwa meskipun *watermark* dirancang agar tetap utuh setelah pengeditan umum, sinyalnya dapat hilang jika gambar dipotong secara besar-besaran (*heavily cropped*).

Ad

Keterbatasan ini bukan hanya masalah bagi Meta; raksasa teknologi lain seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik alterasi gambar. Sebelumnya, Dewan Pengawas Meta telah mendesak perusahaan untuk berinvestasi pada alat deteksi yang lebih kuat guna mengatasi "proliferasi konten AI yang menipu" di platformnya.

Pandangan Pakar

Para ahli di bidang ini menyatakan bahwa sistem berbasis *watermark* memiliki keterbatasan yang melekat. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, menjelaskan bahwa metode ini bisa sangat efektif jika *watermark* tetap utuh. "Namun, modifikasi apa pun yang menghilangkan atau melemahkan sinyal yang disematkan—seperti pemotongan, pengubahan ukuran, kompresi berat, atau pengeditan—dapat mengurangi efektivitasnya," kata Lyu.

Meski demikian, beberapa peneliti melihatnya sebagai langkah maju yang penting. Sarah Barrington, seorang peneliti AI di UC Berkeley, berpendapat bahwa meskipun tidak "sepenuhnya kedap air", teknologi ini menjanjikan. "Bahkan jika kita hanya menangkap 90% kasus, itu masih merupakan lompatan besar dari 0%," ujarnya.