Alat Deteksi AI Meta Gagal Kenali Gambar Buatannya Sendiri Setelah Dipotong

Alat deteksi kecerdasan buatan (AI) baru dari Meta Platforms gagal mengidentifikasi sebagian besar gambar buatannya sendiri setelah melalui proses penyuntingan sederhana seperti pemotongan (cropping), menurut analisis yang dilakukan oleh Reuters. Temuan ini menyoroti tantangan signifikan dalam upaya verifikasi konten yang dihasilkan AI, sebuah isu krusial di tengah maraknya penggunaan AI generatif dan potensi penyebaran misinformasi.

Detail Analisis Reuters

Alat deteksi ini diperkenalkan bersamaan dengan model generator gambar Meta, Muse Image. Analisis Reuters menguji 40 gambar yang dihasilkan oleh Muse Image dan menemukan bahwa alat deteksi berhasil memverifikasi semua gambar asli. Namun, setelah gambar-gambar tersebut dipotong sekitar sepertiga hingga setengah dari ukuran aslinya, alat tersebut gagal memverifikasi 55% di antaranya.

Meta menyatakan di situsnya bahwa alat pratinjau ini dirancang untuk dapat mengidentifikasi gambar buatannya, bahkan setelah disunting. Teknologi ini mengandalkan sistem *watermark* tak kasat mata yang disebut Content Seal, yang disematkan pada setiap gambar dari Muse Image untuk membantu verifikasi.

Respons Meta dan Konteks Industri

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan menjelaskan bahwa meskipun *watermark* dirancang untuk tetap utuh setelah melalui penyuntingan umum, sinyalnya dapat hilang jika gambar dipotong secara signifikan.

Ad

Keterbatasan ini bukan hanya masalah bagi Meta. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik pengubahan gambar. Tantangan ini menjadi semakin mendesak, terutama untuk mengidentifikasi *deepfake* di tahun-tahun pemilihan umum. Sebelumnya, Dewan Pengawas Meta telah meminta perusahaan untuk berinvestasi lebih besar pada alat deteksi yang lebih kuat.

Pandangan Para Ahli

Para ahli di bidang ini mengonfirmasi adanya keterbatasan pada sistem berbasis *watermark*. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, menyatakan bahwa metode ini efektif selama *watermark* tetap utuh. Namun, modifikasi seperti pemotongan, perubahan ukuran, atau kompresi berat dapat mengurangi efektivitasnya.

Sementara itu, Sarah Barrington, seorang peneliti AI di UC Berkeley, mengatakan bahwa *watermarking* tetap menjanjikan untuk masa depan konten AI. "Meskipun mungkin tidak sepenuhnya kedap air, menangkap 90% kasus saja sudah merupakan lompatan besar dari 0%," ujarnya.