Alat Deteksi AI Meta Gagal Kenali Gambar Hasil Crop, Menurut Analisis Reuters

Sebuah alat deteksi kecerdasan buatan (AI) baru dari Meta dilaporkan gagal mengidentifikasi sebagian gambar hasil AI-nya sendiri setelah gambar tersebut dipotong, menurut analisis yang dilakukan oleh Reuters. Temuan ini menyoroti tantangan signifikan dalam memverifikasi konten buatan AI setelah mengalami perubahan umum, sebuah batasan yang dapat mempersulit identifikasi *deepfake*.

Analisis Reuters Ungkap Kelemahan

Alat deteksi ini dirilis bersamaan dengan model penghasil gambar Meta, Muse Image. Dalam analisis terhadap 40 gambar yang dibuat menggunakan Muse Image, Reuters menemukan hasil sebagai berikut:

• Alat tersebut berhasil memverifikasi 100% gambar asli yang dihasilkan AI.
• Namun, alat tersebut gagal memverifikasi 55% dari gambar yang sama setelah dipotong sekitar sepertiga hingga setengah dari ukuran aslinya.

Meta menyatakan di situs webnya bahwa alat pratinjau ini dapat mengidentifikasi gambar buatannya sendiri, bahkan jika telah dimodifikasi. Teknologi ini mengandalkan sistem *watermarking* tak terlihat yang disebut Content Seal, yang dirancang untuk disematkan pada setiap gambar yang dihasilkan oleh Muse Image.

Respons Meta dan Konteks Industri

Ad

Menanggapi temuan Reuters, Meta menekankan bahwa alat tersebut masih dalam tahap pratinjau. Perusahaan menjelaskan bahwa meskipun *watermark* dirancang untuk tetap utuh setelah melalui proses edit umum, sinyalnya dapat hilang jika gambar dipotong secara signifikan.

Tantangan ini tidak hanya dihadapi oleh Meta. Perusahaan teknologi saingan seperti Google dan OpenAI juga telah memperingatkan bahwa alat deteksi mereka tidak sepenuhnya kebal terhadap teknik pengubahan gambar. Hal ini menunjukkan adanya masalah yang lebih luas di industri dalam memerangi konten sintetis yang menipu.

Implikasi dan Pandangan Ahli

Kelemahan pada alat deteksi menimbulkan kekhawatiran, terutama menjelang tahun pemilu yang sibuk di berbagai negara. Pada bulan Maret, Dewan Pengawas Meta telah mendesak perusahaan untuk berbuat lebih banyak guna mengatasi "proliferasi konten AI yang menipu" dan berinvestasi pada alat deteksi yang lebih kuat.

Siwei Lyu, seorang profesor ilmu komputer di State University of New York di Buffalo, menyatakan bahwa sistem berbasis *watermark* memiliki keterbatasan. "Metode berbasis *watermark* bisa sangat efektif ketika *watermark* tetap utuh, tetapi modifikasi apa pun yang menghilangkan atau melemahkan sinyal yang disematkan—seperti memotong, mengubah ukuran, atau kompresi berat—dapat mengurangi efektivitasnya," kata Lyu. Hal ini menggarisbawahi perlunya pendekatan berlapis untuk verifikasi konten.