Analisis Reuters: Detektor AI Meta Gagal Kenali Sebagian Gambar Buatannya Sendiri yang Dipotong

Alat deteksi AI baru dari Meta Platforms gagal mengidentifikasi sebagian besar gambar yang dihasilkannya sendiri setelah gambar tersebut dipotong, menurut analisis Reuters. Temuan ini menyoroti tantangan signifikan dalam memverifikasi konten buatan AI di tengah meningkatnya kekhawatiran tentang misinformasi dan *deepfake*.

Kelemahan Terungkap dalam Pengujian

Dalam analisis terhadap 40 gambar yang dibuat menggunakan model Muse Image milik Meta, Reuters menemukan bahwa alat deteksi berhasil memverifikasi semua gambar asli. Namun, setelah gambar-gambar tersebut dipotong (*cropping*) menjadi sekitar sepertiga hingga setengah dari ukuran aslinya, alat tersebut gagal memverifikasi 55% di antaranya.

Meta menyatakan alat ini menggunakan sistem *watermark* tak terlihat yang disebut Content Seal. Teknologi ini dirancang untuk disematkan pada setiap gambar yang dihasilkan oleh Muse Image untuk membantu pengguna memverifikasi keasliannya sebagai konten buatan AI Meta, bahkan setelah melalui proses edit umum.

Respons Meta dan Konteks Industri

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam versi pratinjau (*preview*). Perusahaan menjelaskan bahwa meskipun *watermark* dirancang untuk tahan terhadap editan umum, sinyalnya dapat hilang jika gambar dipotong secara signifikan.

Ad

Keterbatasan ini bukan hanya masalah Meta; raksasa teknologi lain seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik alterasi gambar. Sebelumnya, Dewan Pengawas Meta telah mendesak perusahaan untuk berinvestasi pada alat deteksi yang lebih kuat untuk mengatasi "proliferasi konten AI yang menipu" di platformnya.

Implikasi bagi Pasar dan Investor

Bagi investor, kelemahan dalam teknologi deteksi ini menyoroti risiko reputasi dan regulasi yang terus-menerus bagi perusahaan teknologi besar. Kegagalan untuk secara andal mengidentifikasi konten yang dimanipulasi dapat mempersulit upaya memerangi misinformasi, terutama selama periode sensitif seperti tahun pemilu.

Para ahli mengakui adanya tantangan teknis. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, mengatakan kepada Reuters bahwa metode berbasis *watermark* bisa sangat efektif, tetapi "modifikasi apa pun yang menghilangkan atau melemahkan sinyal yang tertanam... dapat mengurangi efektivitasnya."

Meski demikian, beberapa ahli melihatnya sebagai langkah maju. Sarah Barrington, seorang peneliti AI di UC Berkeley, menyatakan bahwa meskipun tidak "sepenuhnya kedap air," kemampuan untuk mendeteksi sebagian besar kasus sudah merupakan "lompatan besar dari nol."