Alat Deteksi AI Meta Gagal Kenali Gambar Buatan Sendiri yang Dipotong, Menurut Analisis Reuters

Alat pendeteksi kecerdasan buatan (AI) baru dari Meta Platforms gagal mengidentifikasi sebagian gambar yang dihasilkan oleh AI-nya sendiri setelah gambar tersebut dipotong secara signifikan. Temuan ini merupakan hasil analisis yang dilakukan oleh Reuters dan menyoroti tantangan dalam memverifikasi konten sintetis di tengah maraknya penggunaan AI.

Hasil Analisis Reuters

Dalam analisis terhadap 40 gambar yang dibuat menggunakan model AI Meta, Muse Image, Reuters menemukan bahwa alat deteksi tersebut berhasil memverifikasi semua gambar asli. Namun, alat tersebut gagal memverifikasi 55% dari gambar yang sama setelah ukurannya dipotong sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan bahwa alat pratinjau ini dirancang untuk dapat mengidentifikasi gambar buatannya sendiri, bahkan setelah diedit, melalui sistem *watermarking* tak kasat mata yang disebut 'Content Seal'. Sistem ini ditanamkan pada setiap gambar yang dihasilkan oleh Muse Image untuk membantu verifikasi.

Respons Meta dan Konteks Industri

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan menjelaskan bahwa meskipun *watermark* dirancang untuk tetap utuh setelah melalui proses edit umum, sinyalnya dapat hilang jika gambar mengalami pemotongan (*cropping*) yang signifikan.

Ad

Kegagalan ini menggarisbawahi tantangan yang lebih luas dalam industri teknologi untuk memerangi *deepfake* dan konten menyesatkan, terutama menjelang tahun-tahun pemilu yang sibuk. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik alterasi gambar.

Pandangan Para Ahli

Para ahli menyatakan bahwa sistem berbasis *watermark* memang memiliki keterbatasan. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, mengatakan kepada Reuters bahwa modifikasi seperti *cropping*, perubahan ukuran, atau kompresi berat dapat mengurangi efektivitas *watermark*.

Di sisi lain, beberapa peneliti melihatnya sebagai langkah maju yang penting. Sarah Barrington, seorang peneliti AI di UC Berkeley, berpendapat bahwa meskipun tidak sepenuhnya sempurna, teknologi *watermarking* menjanjikan dan menangkap sebagian besar kasus sudah merupakan lompatan besar dibandingkan tidak ada deteksi sama sekali.