Pengesan Imej AI Meta Gagal Kenal Pasti Imej Janaan Sendiri yang Dipotong - Analisis Reuters

Alat pengesanan Kecerdasan Buatan (AI) baharu daripada Meta gagal mengenal pasti sebahagian imej janaan AI miliknya sendiri selepas ia diubah suai dengan cara dipotong, menurut satu analisis oleh Reuters. Penemuan ini menonjolkan cabaran teknikal yang dihadapi dalam mengesahkan kandungan janaan AI, satu isu kritikal dalam persekitaran maklumat yang dibanjiri 'deepfake' dan berita palsu.

Prestasi Alat Pengesan Meta

Alat pengesan ini, yang diperkenalkan bersama model penjanaan imej Meta, Muse Image, direka untuk mengenal pasti imej yang dicipta oleh model AI syarikat. Ia menggunakan sistem tera air halimunan yang dipanggil Content Seal yang dibenamkan dalam setiap imej.

Dalam analisisnya, Reuters menguji 40 imej yang dijana menggunakan Muse Image. Dapatan utama adalah:

• Alat tersebut berjaya mengesahkan 100% imej asal yang tidak diubah suai.
• Walau bagaimanapun, ia gagal mengesahkan 55% daripada imej yang sama selepas ia dipotong kepada kira-kira satu pertiga hingga separuh saiz asalnya.

Cabaran dan Konteks Industri

Ad

Kegagalan untuk mengesan imej yang telah diubah suai secara ringkas mendedahkan kelemahan dalam teknologi pengesahan semasa. Ini amat membimbangkan menjelang tahun pilihan raya yang sibuk, di mana kandungan janaan AI yang mengelirukan boleh memberi impak yang besar.

Meta menyatakan bahawa alat tersebut masih dalam versi pratonton dan mengakui bahawa tera air boleh hilang jika imej dipotong secara berlebihan. Syarikat gergasi teknologi lain seperti Google dan OpenAI juga telah memberi amaran bahawa alat pengesan mereka tidak kalis kepada semua teknik pengubahsuaian imej.

Implikasi kepada Pelabur

Bagi pelabur, kebolehpercayaan alat pengesanan kandungan adalah penting untuk integriti platform dan kepercayaan pengguna, yang secara langsung memberi kesan kepada reputasi dan penilaian syarikat. Kegagalan teknologi ini boleh membawa kepada peningkatan pengawasan kawal selia terhadap syarikat teknologi besar.

Pakar seperti Siwei Lyu dari State University of New York di Buffalo menyatakan bahawa sistem berasaskan tera air sememangnya terdedah kepada pengubahsuaian seperti pemotongan atau pemampatan. Sebelum ini, Lembaga Pengawasan Meta sendiri telah menggesa syarikat itu untuk melabur dalam alat pengesanan yang lebih kukuh bagi menangani "penyebaran kandungan janaan AI yang menipu."