Analisis Reuters: Alat Deteksi AI Meta Gagal Kenali Gambar Buatannya Sendiri yang Dipotong

Alat deteksi kecerdasan buatan (AI) baru dari Meta Platforms gagal mengidentifikasi sebagian besar gambar yang dihasilkannya sendiri setelah gambar tersebut dipotong, menurut analisis yang dilakukan oleh Reuters. Temuan ini menyoroti tantangan signifikan dalam memverifikasi konten buatan AI setelah melalui modifikasi umum, sebuah kelemahan yang dapat mempersulit upaya identifikasi *deepfake* di tengah tahun pemilu yang sibuk.

Rincian Analisis

Dalam analisis terhadap 40 gambar yang dihasilkan menggunakan model penghasil gambar Meta, Muse Image, Reuters menemukan bahwa alat deteksi tersebut berhasil memverifikasi semua gambar asli. Namun, alat tersebut gagal memverifikasi 55% dari gambar yang sama setelah dipotong sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan bahwa alat deteksi versi pratinjau ini mengandalkan sistem *watermark* tak terlihat yang disebut Content Seal. Teknologi ini dirancang untuk disematkan pada setiap gambar yang dibuat oleh Muse Image agar pengguna dapat memverifikasi asalnya, dan diklaim tetap utuh setelah melalui proses penyuntingan umum.

Implikasi dan Tanggapan Meta

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan mengatakan bahwa meskipun *watermark* dirancang untuk bertahan dari editan umum, sinyalnya dapat hilang jika gambar dipotong secara signifikan.

Ad

Kelemahan ini menjadi perhatian khusus mengingat Dewan Pengawas Meta pada bulan Maret telah mendesak perusahaan untuk berbuat lebih banyak dalam mengatasi "proliferasi konten buatan AI yang menipu" dan berinvestasi pada alat deteksi yang lebih kuat. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah mengakui bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik alterasi gambar.

Konteks dan Pandangan Pakar

Para ahli di bidang ini menyatakan bahwa sistem berbasis *watermark* memiliki keterbatasan yang melekat. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, menjelaskan bahwa metode ini sangat efektif jika *watermark* tetap utuh, tetapi modifikasi seperti pemotongan, perubahan ukuran, atau kompresi berat dapat mengurangi efektivitasnya.

Meski demikian, beberapa peneliti melihatnya sebagai langkah maju yang penting. Sarah Barrington, seorang peneliti AI di UC Berkeley School of Information, berpendapat bahwa meskipun tidak "sepenuhnya kedap air", teknologi *watermark* memiliki potensi besar. "Bahkan jika kita hanya menangkap 90% kasus, itu masih merupakan lompatan besar dari 0%," katanya.