मेटा का एआई डिटेक्टर अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

मेटा के एक नए आर्टिफिशियल इंटेलिजेंस (एआई) डिटेक्शन टूल ने अपनी ही एआई-जनित कुछ तस्वीरों को क्रॉप किए जाने के बाद पहचानने में विफलता दिखाई है। रॉयटर्स द्वारा किए गए एक विश्लेषण से यह बात सामने आई है, जो ऑनलाइन डीपफेक और भ्रामक सामग्री को पहचानने में आने वाली महत्वपूर्ण चुनौतियों को रेखांकित करती है।

विश्लेषण के निष्कर्ष

रॉयटर्स ने मेटा के नए इमेज-जनरेशन मॉडल, Muse Image, का उपयोग करके बनाई गई 40 तस्वीरों का विश्लेषण किया। जांच में पाया गया कि डिटेक्शन टूल ने सभी मूल एआई-जनित तस्वीरों की सफलतापूर्वक पहचान कर ली।

हालांकि, जब उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% मामलों में उनकी पहचान करने में विफल रहा। यह परिणाम मेटा की 'कंटेंट सील' नामक अदृश्य वॉटरमार्किंग प्रणाली की सीमाओं को दर्शाता है, जिसे सामान्य बदलावों के बाद भी पहचान बनाए रखने के लिए डिज़ाइन किया गया है।

मेटा की प्रतिक्रिया और व्यापक संदर्भ

रॉयटर्स के निष्कर्षों पर मेटा ने कहा कि यह टूल अभी एक 'प्रीव्यू' संस्करण है। कंपनी ने स्वीकार किया कि वॉटरमार्क को सामान्य संपादनों का सामना करने के लिए बनाया गया है, लेकिन किसी तस्वीर को बहुत ज़्यादा क्रॉप करने पर वॉटरमार्क का सिग्नल खो सकता है।

Ad

यह समस्या केवल मेटा तक ही सीमित नहीं है। गूगल और ओपनएआई जैसी अन्य प्रमुख तकनीकी कंपनियों ने भी चेतावनी दी है कि उनके डिटेक्शन टूल भी इमेज में बदलाव किए जाने पर पूरी तरह से अचूक नहीं हैं। यह मुद्दा एक व्यस्त चुनावी वर्ष में विशेष रूप से महत्वपूर्ण है, क्योंकि डीपफेक का प्रसार गलत सूचना फैला सकता है। मार्च में, मेटा के ओवरसाइट बोर्ड ने भी कंपनी से "भ्रामक एआई-जनित सामग्री के प्रसार" से निपटने के लिए बेहतर डिटेक्शन टूल में निवेश करने का आग्रह किया था।

विशेषज्ञों की राय

विशेषज्ञों का मानना है कि वॉटरमार्क-आधारित सिस्टम की अपनी सीमाएँ हैं। बफ़ेलो में स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क के कंप्यूटर विज्ञान के प्रोफेसर सिवेई ल्यू के अनुसार, "वॉटरमार्क-आधारित तरीके तब तक अत्यधिक प्रभावी हो सकते हैं जब तक वॉटरमार्क बरकरार रहता है, लेकिन क्रॉपिंग, आकार बदलने या भारी कंप्रेशन जैसे कोई भी बदलाव उनकी प्रभावशीलता को कम कर सकते हैं।"

इसके बावजूद, कुछ शोधकर्ता इस तकनीक को एक सकारात्मक कदम मानते हैं। यूसी बर्कले स्कूल ऑफ इंफॉर्मेशन की एआई शोधकर्ता सारा बैरिंगटन ने कहा कि वॉटरमार्किंग पूरी तरह से अभेद्य नहीं हो सकती है, लेकिन "अगर हम 90% मामलों को भी पकड़ लेते हैं, तो यह 0 से एक बड़ी छलांग है।"