Alat Deteksi AI Meta Gagal Kenali Gambar Buatannya Sendiri Setelah Dipotong, Menurut Analisis Reuters

Sebuah alat deteksi kecerdasan buatan (AI) baru dari Meta Platforms gagal mengidentifikasi sebagian besar gambar yang dihasilkannya sendiri setelah gambar-gambar tersebut dimodifikasi, menurut analisis yang dilakukan oleh Reuters. Temuan ini menyoroti tantangan signifikan dalam memverifikasi konten buatan AI, terutama setelah melalui proses penyuntingan umum seperti pemotongan (*cropping*).

Detail Analisis Reuters

Dalam analisis terhadap 40 gambar yang dibuat menggunakan model AI penghasil gambar Meta, Muse Image, Reuters menemukan bahwa alat deteksi tersebut berhasil memverifikasi semua gambar asli. Namun, alat tersebut gagal memverifikasi 55% dari gambar yang sama setelah dipotong hingga sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan bahwa alat pendeteksi versi pratinjau ini dirancang untuk mengidentifikasi gambar buatannya sendiri, bahkan setelah diedit. Teknologi ini bergantung pada sistem *watermark* tak terlihat yang disebut Content Seal, yang disematkan pada setiap gambar yang dihasilkan oleh Muse Image.

Respons Meta dan Konteks Industri

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan mengakui bahwa meskipun *watermark* dirancang untuk tetap utuh setelah melalui penyuntingan umum, sinyalnya dapat hilang jika gambar dipotong secara signifikan.

Ad

Keterbatasan ini bukan hanya masalah bagi Meta. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya andal terhadap teknik pengubahan gambar. Temuan ini muncul di tengah meningkatnya kekhawatiran tentang penyebaran *deepfake* dan konten AI yang menipu, terutama menjelang tahun pemilu yang sibuk.

Keterbatasan Teknologi Watermark

Para ahli forensik gambar AI mengonfirmasi bahwa sistem berbasis *watermark* memiliki kelemahan. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, menjelaskan bahwa metode ini efektif selama *watermark* tetap utuh. Namun, "modifikasi apa pun yang menghilangkan atau melemahkan sinyal yang disematkan—seperti pemotongan, pengubahan ukuran, kompresi berat, atau penyuntingan—dapat mengurangi efektivitasnya," kata Lyu kepada Reuters.

Meskipun demikian, beberapa peneliti melihatnya sebagai langkah maju yang penting. Sarah Barrington, seorang peneliti AI di UC Berkeley, berpendapat bahwa meskipun tidak "sepenuhnya kedap air", teknologi ini merupakan kemajuan besar. "Bahkan jika kita hanya menangkap 90% kasus, itu masih merupakan lompatan besar dari 0%," ujarnya.