मेटा का एआई इमेज डिटेक्टर अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

रॉयटर्स के एक विश्लेषण के अनुसार, मेटा का नया आर्टिफिशियल इंटेलिजेंस (एआई) डिटेक्शन टूल अपनी ही एआई-जनित कुछ तस्वीरों की पहचान करने में विफल रहा, जब उन तस्वीरों को क्रॉप कर दिया गया। यह खोज एआई-जनित सामग्री, विशेष रूप से डीपफेक की पहचान और सत्यापन में मौजूदा तकनीकी चुनौतियों को उजागर करती है।

विश्लेषण के प्रमुख निष्कर्ष

रॉयटर्स ने मेटा के नए इमेज-जेनरेशन मॉडल, 'म्यूज़ इमेज' (Muse Image) का उपयोग करके बनाई गई 40 तस्वीरों का विश्लेषण किया। इस जांच में निम्नलिखित बातें सामने आईं:

• डिटेक्शन टूल ने सभी मूल (original) एआई-जनित तस्वीरों की सफलतापूर्वक पहचान कर ली।
• हालांकि, जब उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% मामलों में उनकी पहचान करने में विफल रहा।
• मेटा का यह सिस्टम 'कंटेंट सील' (Content Seal) नामक एक अदृश्य वॉटरमार्किंग तकनीक पर काम करता है, जिसे सामान्य बदलावों के बाद भी बरकरार रहने के लिए डिज़ाइन किया गया है।

मेटा की प्रतिक्रिया और तकनीकी सीमाएं

रॉयटर्स के विश्लेषण पर प्रतिक्रिया देते हुए, मेटा ने कहा कि यह टूल अभी एक "प्रीव्यू" संस्करण है। कंपनी ने स्वीकार किया कि वॉटरमार्क को सामान्य संपादनों का सामना करने के लिए बनाया गया है, लेकिन किसी तस्वीर को बहुत ज़्यादा क्रॉप करने पर वॉटरमार्क का सिग्नल खत्म हो सकता है।

Ad

यह चुनौती केवल मेटा तक ही सीमित नहीं है। गूगल और ओपनएआई जैसी अन्य तकनीकी कंपनियों ने भी चेतावनी दी है कि उनके डिटेक्शन टूल भी इमेज में बदलाव की तकनीकों के सामने पूरी तरह से अचूक नहीं हैं। यह सीमा एक व्यस्त चुनावी वर्ष में ऑनलाइन गलत सूचना और डीपफेक के प्रसार को रोकने के प्रयासों को जटिल बना सकती है।

विशेषज्ञों की राय और संदर्भ

बफ़ेलो में स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क के कंप्यूटर विज्ञान के प्रोफेसर सिवेई ल्यू (Siwei Lyu) के अनुसार, वॉटरमार्क-आधारित सिस्टम तब तक अत्यधिक प्रभावी होते हैं जब तक वॉटरमार्क बरकरार रहता है। उन्होंने कहा, "क्रॉपिंग, रीसाइज़िंग, या भारी कंप्रेशन जैसे कोई भी बदलाव एम्बेडेड सिग्नल को हटा या कमजोर कर सकते हैं।"

इससे पहले, मार्च में मेटा के ओवरसाइट बोर्ड ने कंपनी से अपने प्लेटफॉर्म पर "भ्रामक एआई-जनित सामग्री के प्रसार" से निपटने के लिए और अधिक मजबूत डिटेक्शन टूल में निवेश करने का आह्वान किया था। यह घटनाक्रम इस बात पर प्रकाश डालता है कि विश्वसनीय एआई पहचान प्रणाली विकसित करना तकनीकी उद्योग के लिए एक महत्वपूर्ण और जारी चुनौती है।