Analisis Reuters: Alat Deteksi AI Meta Gagal Mengenali Gambar Buatannya yang Dipotong

Alat pendeteksi kecerdasan buatan (AI) baru dari Meta Platforms gagal mengidentifikasi sebagian besar gambar yang dihasilkan oleh model AI-nya sendiri setelah gambar tersebut dipotong, menurut sebuah analisis yang dilakukan oleh Reuters. Temuan ini menggarisbawahi tantangan signifikan dalam memverifikasi keaslian konten digital, sebuah isu krusial di tengah maraknya *deepfake* menjelang tahun pemilu.

Hasil Analisis Reuters

Dalam pengujian terhadap 40 gambar yang dibuat menggunakan model penghasil gambar Meta, Muse Image, Reuters menemukan bahwa alat deteksi berhasil memverifikasi semua gambar asli. Namun, setelah gambar-gambar tersebut dipotong menjadi sekitar sepertiga hingga setengah dari ukuran aslinya, alat tersebut gagal memverifikasi 55% di antaranya.

Meta menyatakan bahwa alat pendeteksi pratinjau ini dirancang untuk mengidentifikasi gambar yang dihasilkan AI-nya melalui sistem *watermark* tak terlihat yang disebut Content Seal. Perusahaan mengakui bahwa meskipun *watermark* dirancang untuk tetap utuh setelah melalui pengeditan umum, sinyalnya dapat hilang jika gambar dipotong secara signifikan.

Konteks dan Implikasi yang Lebih Luas

Kegagalan ini menyoroti kerentanan teknologi deteksi dalam menghadapi manipulasi gambar sederhana, yang dapat mempersulit upaya untuk mengidentifikasi disinformasi visual. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik pengubahan gambar.

Ad

Pada bulan Maret, Dewan Pengawas Meta (Oversight Board) telah mendesak perusahaan untuk berbuat lebih banyak dalam mengatasi "proliferasi konten AI generatif yang menipu" dan berinvestasi pada alat deteksi yang lebih kuat. Kemampuan untuk memverifikasi konten secara andal menjadi semakin penting, terutama dalam konteks politik seperti pemilihan paruh waktu di AS.

Pandangan Para Ahli

Para ahli di bidang ini mencatat bahwa sistem berbasis *watermark* memiliki keterbatasan yang melekat. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, menjelaskan bahwa modifikasi apa pun yang menghilangkan atau melemahkan sinyal yang disematkan—seperti pemotongan, perubahan ukuran, atau kompresi berat—dapat mengurangi efektivitasnya.

Namun, para peneliti juga melihat *watermarking* sebagai langkah maju yang menjanjikan. Sarah Barrington, seorang peneliti AI di UC Berkeley School of Information, berpendapat bahwa meskipun teknologi ini mungkin tidak "sepenuhnya kedap air", kemampuannya untuk menangkap sebagian besar kasus, misalnya 90%, masih merupakan lompatan besar dibandingkan tidak ada deteksi sama sekali.