Alat Pengesan AI Meta Gagal Kenal Pasti Imej Janaan Sendiri yang Dipotong - Analisis Reuters

Alat pengesanan kecerdasan buatan (AI) baharu daripada Meta gagal mengenal pasti beberapa imej janaan AI miliknya sendiri selepas imej tersebut dipotong, menurut satu analisis oleh Reuters. Penemuan ini menonjolkan cabaran teknikal yang ketara dalam mengesahkan kandungan janaan AI, terutamanya apabila ia diubah suai, sekali gus menimbulkan kebimbangan mengenai penyebaran maklumat palsu dalam talian.

Penemuan Utama Analisis

Analisis yang dijalankan oleh Reuters menguji 40 imej yang dihasilkan menggunakan model penjanaan imej Meta, Muse Image. Dapatan utama adalah seperti berikut:

• Alat pengesanan berjaya mengesahkan kesemua imej janaan AI yang asli.
• Walau bagaimanapun, alat tersebut gagal mengesahkan 55% daripada imej yang sama selepas ia dipotong kepada kira-kira satu pertiga hingga separuh saiz asalnya.

Meta menyatakan alat ini menggunakan sistem tera air halimunan yang dipanggil Content Seal. Teknologi ini direka untuk membenamkan isyarat pada setiap imej bagi membolehkan pengesahan, tetapi isyarat ini boleh hilang jika imej diubah suai secara meluas.

Cabaran dan Batasan Teknologi

Ad

Sebagai tindak balas kepada penemuan Reuters, Meta menyatakan bahawa alat tersebut masih dalam versi pratonton. Syarikat itu mengakui bahawa walaupun tera air direka untuk bertahan daripada suntingan biasa, isyarat tersebut mungkin hilang jika imej dipotong secara berlebihan.

Cabaran ini tidak terhad kepada Meta sahaja. Syarikat teknologi saingan seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesanan mereka tidak kalis kepada teknik pengubahsuaian imej. Siwei Lyu, seorang profesor sains komputer di State University of New York di Buffalo, mengulas bahawa kaedah berasaskan tera air berkesan selagi tera air itu utuh, tetapi keberkesanannya boleh berkurangan akibat pemotongan, pemampatan berat, atau penyuntingan lain.

Implikasi kepada Pelabur dan Keselamatan Dalam Talian

Kegagalan untuk mengenal pasti kandungan AI yang diubah suai secara konsisten mempunyai implikasi yang serius, terutamanya dalam memerangi 'deepfake' dan maklumat salah, lebih-lebih lagi semasa tahun pilihan raya yang sibuk. Pelabur dan pasaran memantau dengan teliti keupayaan syarikat teknologi untuk menguruskan risiko yang berkaitan dengan kandungan janaan AI pada platform mereka.

Pada bulan Mac, Lembaga Pengawasan Meta telah menggesa syarikat itu untuk meningkatkan usaha menangani "penyebaran kandungan janaan AI yang menipu" dan melabur dalam alat pengesanan yang lebih kukuh. Walaupun teknologi ini tidak sempurna, pakar seperti Sarah Barrington dari UC Berkeley School of Information berpendapat ia masih satu langkah ke hadapan yang penting, dengan menyatakan bahawa "walaupun kita hanya menangkap 90% kes, itu masih satu lonjakan besar daripada 0%."