Analisis Reuters: Alat Deteksi AI Meta Gagal Kenali Gambar Buatannya Sendiri yang Dipotong

Sebuah analisis oleh Reuters menemukan bahwa alat deteksi kecerdasan buatan (AI) baru dari Meta gagal mengidentifikasi sebagian besar gambar yang dihasilkan oleh modelnya sendiri setelah gambar tersebut dimodifikasi. Temuan ini menyoroti tantangan signifikan dalam memverifikasi konten buatan AI, terutama setelah melalui pengeditan umum seperti pemotongan (*cropping*).

Temuan Utama Analisis

Dalam analisis terhadap 40 gambar yang dibuat menggunakan model penghasil gambar Meta, Muse Image, Reuters menemukan bahwa alat deteksi tersebut berhasil memverifikasi semua gambar asli. Namun, alat tersebut gagal memverifikasi 55% dari gambar yang sama setelah dipotong menjadi sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan di situsnya bahwa alat pratinjau ini dapat mengidentifikasi gambar buatan AI-nya, bahkan jika dipotong, melalui sistem *watermark* tak terlihat yang disebut Content Seal. Sistem ini dirancang untuk membantu pengguna memverifikasi apakah sebuah gambar dibuat oleh model AI Meta.

Respons Meta dan Konteks Industri

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan menjelaskan bahwa meskipun *watermark* dirancang untuk tetap utuh setelah pengeditan umum, sinyalnya dapat hilang jika gambar dipotong secara signifikan.

Ad

Tantangan ini tidak hanya dihadapi oleh Meta. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik pengubahan gambar. Sebelumnya, Dewan Pengawas Meta telah mendesak perusahaan untuk berinvestasi pada alat deteksi yang lebih kuat guna mengatasi "proliferasi konten AI yang menipu" di platformnya.

Implikasi bagi Investor dan Pasar

Keterbatasan dalam teknologi deteksi ini memiliki implikasi penting, terutama dalam konteks penyebaran disinformasi dan *deepfake* selama periode penting seperti tahun pemilu. Kegagalan untuk secara andal mengidentifikasi konten yang dimanipulasi dapat merusak kepercayaan pada platform media digital dan meningkatkan risiko reputasi bagi perusahaan teknologi.

Para ahli menyatakan bahwa sistem berbasis *watermark* memang memiliki keterbatasan. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, mengatakan bahwa "modifikasi apa pun yang menghilangkan atau melemahkan sinyal yang disematkan—seperti pemotongan, pengubahan ukuran, kompresi berat, atau pengeditan—dapat mengurangi efektivitasnya." Meskipun demikian, para peneliti melihatnya sebagai langkah maju yang penting, bahkan jika tidak sempurna.