Alat Pengesan AI Meta Gagal Kenal Pasti Imej Janaan Sendiri yang Dipangkas - Analisis Reuters

Alat pengesan kecerdasan buatan (AI) baharu daripada Meta gagal mengenal pasti sebahagian imej janaan AI miliknya sendiri selepas imej tersebut dipangkas, menurut satu analisis yang dijalankan oleh Reuters. Penemuan ini mendedahkan cabaran berterusan dalam mengesahkan kandungan janaan AI selepas ia melalui pengubahsuaian biasa, satu kelemahan yang boleh merumitkan usaha mengenal pasti 'deepfake' dalam talian.

Dapatan Analisis

Dalam analisis ke atas 40 imej yang dijana menggunakan model Muse Image Meta, Reuters mendapati alat pengesan tersebut berjaya mengesahkan semua imej asal. Walau bagaimanapun, ia gagal mengesahkan 55% daripada imej yang sama selepas ia dipangkas kepada kira-kira satu pertiga hingga separuh saiz asalnya.

Meta menyatakan di laman webnya bahawa alat pengesan pratonton ini boleh mengenal pasti imej janaan AI sendiri, walaupun selepas dipangkas, melalui sistem tera air halimunan yang dipanggil Content Seal. Sistem ini direka untuk membantu pengguna mengesahkan sama ada sesuatu imej itu dicipta oleh model AI Meta.

Konteks dan Respons Meta

Menjawab dapatan Reuters, Meta menyatakan bahawa alat tersebut adalah versi pratonton. Syarikat itu berkata tera air tersebut direka untuk kekal utuh selepas suntingan biasa, tetapi isyaratnya mungkin hilang jika imej dipangkas secara berlebihan. Had ini amat relevan dalam persekitaran semasa, terutamanya menjelang tahun pilihan raya yang sibuk di mana penyebaran maklumat salah menjadi kebimbangan utama.

Ad

Sebelum ini, pada bulan Mac, Lembaga Pengawasan Meta telah menggesa syarikat itu untuk meningkatkan usaha menangani "penyebaran kandungan janaan AI yang menipu" di platformnya dan melabur dalam alat pengesanan yang lebih kukuh. Syarikat teknologi saingan seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesan mereka tidak kalis sepenuhnya terhadap teknik pengubahsuaian imej.

Pandangan Pakar

Pakar dalam bidang ini menyatakan bahawa sistem berasaskan tera air sememangnya mempunyai batasan. Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, menjelaskan bahawa sebarang pengubahsuaian yang membuang atau melemahkan isyarat tera air—seperti memangkas, mengubah saiz, atau pemampatan berat—boleh mengurangkan keberkesanannya.

Namun begitu, sesetengah penyelidik percaya teknologi ini masih memegang janji. Sarah Barrington, seorang penyelidik AI di UC Berkeley School of Information, berpendapat walaupun ia mungkin tidak sempurna, ia merupakan satu langkah ke hadapan yang penting. "Walaupun kita hanya dapat menangkap 90% kes, itu masih satu lonjakan besar daripada 0%," katanya.