Alat Deteksi AI Meta Gagal Kenali Gambar Buatannya Sendiri Setelah Dipotong, Menurut Analisis Reuters

Alat deteksi kecerdasan buatan (AI) baru dari Meta Platforms gagal mengidentifikasi sebagian besar gambar yang dihasilkan oleh modelnya sendiri setelah gambar tersebut dipotong, menurut sebuah analisis yang dilakukan oleh Reuters. Temuan ini menyoroti tantangan signifikan dalam memverifikasi konten buatan AI yang telah melalui proses penyuntingan umum, sebuah kelemahan yang dapat mempersulit identifikasi *deepfake* di ranah online.

Rincian Temuan Analisis

Dalam analisis terhadap 40 gambar yang dibuat menggunakan model Muse Image dari Meta, Reuters menemukan bahwa alat deteksi tersebut berhasil memverifikasi semua gambar asli. Namun, alat tersebut gagal memverifikasi 55% dari gambar yang sama setelah dipotong sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan bahwa alat pratinjau ini dirancang untuk dapat mengidentifikasi gambar buatannya sendiri, bahkan setelah diedit. Teknologi ini bergantung pada sistem *watermark* tak terlihat yang disebut Content Seal, yang disematkan pada setiap gambar yang dihasilkan oleh Muse Image untuk membantu verifikasi.

Respons Meta dan Konteks Industri

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan mengakui bahwa meskipun *watermark* dirancang untuk tetap utuh setelah melalui penyuntingan umum, sinyalnya dapat hilang jika gambar dipotong secara signifikan.

Ad

Keterbatasan ini bukan hanya masalah bagi Meta. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya andal terhadap berbagai teknik alterasi gambar. Tantangan ini menjadi semakin krusial di tengah maraknya konten palsu, terutama menjelang tahun pemilihan umum yang sibuk.

Pandangan Pakar Mengenai Teknologi Watermark

Para ahli di bidang ini mengonfirmasi adanya keterbatasan pada sistem berbasis *watermark*. Siwei Lyu, seorang profesor ilmu komputer di State University of New York at Buffalo, menyatakan bahwa metode ini sangat efektif jika *watermark* tetap utuh. Namun, efektivitasnya dapat berkurang akibat modifikasi seperti pemotongan, perubahan ukuran, atau kompresi berat.

Meski demikian, beberapa peneliti melihatnya sebagai langkah maju yang penting. Sarah Barrington, seorang peneliti AI di UC Berkeley, berpendapat bahwa meskipun tidak sepenuhnya kedap, teknologi *watermarking* menjanjikan. "Bahkan jika kita hanya menangkap 90% kasus, itu masih merupakan lompatan besar dari 0%," katanya.