Alat Deteksi AI Meta Gagal Kenali Gambar Buatannya Sendiri Setelah Dipotong, Menurut Analisis Reuters

Sebuah alat deteksi kecerdasan buatan (AI) baru dari Meta Platforms (META) gagal mengidentifikasi sebagian gambar yang dihasilkan oleh model AI-nya sendiri setelah gambar tersebut dipotong, menurut analisis yang dilakukan oleh Reuters. Temuan ini menyoroti tantangan signifikan dalam memverifikasi gambar yang dihasilkan AI setelah melalui pengeditan umum, sebuah keterbatasan yang dapat menyulitkan identifikasi *deepfake*.

Rincian Analisis

Dalam analisis terhadap 40 gambar yang dibuat menggunakan model penghasil gambar Meta, Muse Image, Reuters menemukan bahwa alat deteksi tersebut berhasil memverifikasi semua gambar asli. Namun, alat itu gagal memverifikasi 55% dari gambar yang sama setelah dipotong sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan bahwa alat deteksi pratinjau ini menggunakan sistem *watermark* tak terlihat yang disebut Content Seal. Sistem ini dirancang untuk disematkan pada setiap gambar yang dihasilkan oleh Muse Image untuk membantu pengguna memverifikasi keasliannya sebagai buatan AI Meta.

Respons Meta dan Tantangan Industri

Menanggapi temuan Reuters, Meta mencatat bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan menjelaskan bahwa meskipun *watermark* dirancang untuk tetap utuh setelah pengeditan umum, sinyal tersebut dapat hilang jika gambar dipotong secara signifikan (*heavily cropped*).

Ad

Keterbatasan ini bukan hanya milik Meta; raksasa teknologi saingannya seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik pengubahan gambar. Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, menyatakan bahwa metode berbasis *watermark* bisa sangat efektif, tetapi "setiap modifikasi yang menghilangkan atau melemahkan sinyal yang tertanam—seperti pemotongan, pengubahan ukuran, kompresi berat, atau pengeditan—dapat mengurangi efektivitasnya."

Implikasi bagi Investor

Kegagalan dalam deteksi ini muncul di tengah meningkatnya pengawasan terhadap konten AI yang menipu, terutama menjelang tahun pemilu yang sibuk. Pada bulan Maret, Dewan Pengawas Meta telah meminta perusahaan untuk berinvestasi lebih banyak pada alat deteksi yang lebih kuat untuk mengatasi "proliferasi konten AI yang menipu" di platformnya.

Bagi investor, temuan ini menggarisbawahi risiko teknologi dan reputasi yang berkelanjutan bagi perusahaan-perusahaan besar yang berinvestasi dalam AI generatif. Kemampuan untuk secara andal mengidentifikasi dan memberi label pada konten yang dihasilkan AI menjadi semakin penting untuk menjaga kepercayaan pengguna dan mematuhi peraturan yang terus berkembang.