मेटा का AI इमेज डिटेक्टर अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

मेटा (Meta) द्वारा हाल ही में लॉन्च किया गया एक नया AI डिटेक्शन टूल, अपनी ही AI-जनित तस्वीरों को पहचानने में विफल रहा है, जब उन्हें क्रॉप कर दिया जाता है। रॉयटर्स (Reuters) द्वारा किए गए एक विश्लेषण में यह बात सामने आई है, जो डीपफेक और ऑनलाइन गलत सूचनाओं का पता लगाने में मौजूदा तकनीकी चुनौतियों को उजागर करती है।

रॉयटर्स के विश्लेषण में क्या सामने आया

यह खोज मेटा के नए इमेज-जनरेशन मॉडल, म्यूज़ इमेज (Muse Image) के लॉन्च के साथ ही सामने आई है। यह डीपफेक की पहचान करने की जटिलताओं को रेखांकित करता है, खासकर जब तस्वीरों में सामान्य बदलाव किए जाते हैं, जो एक व्यस्त चुनावी वर्ष में चिंता का विषय है।

रॉयटर्स के विश्लेषण के मुख्य बिंदु:

• म्यूज़ इमेज का उपयोग करके बनाई गई 40 तस्वीरों का परीक्षण किया गया।
• डिटेक्शन टूल ने सभी मूल (original) AI-जनित तस्वीरों की सफलतापूर्वक पहचान की।
• हालांकि, जब इन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% तस्वीरों को पहचानने में विफल रहा।

मेटा की तकनीक और उसकी सीमाएं

Ad

मेटा का यह डिटेक्शन टूल 'कंटेंट सील' (Content Seal) नामक एक अदृश्य वॉटरमार्किंग प्रणाली पर काम करता है, जो म्यूज़ इमेज द्वारा बनाई गई हर तस्वीर में एम्बेड की जाती है। कंपनी का कहना है कि यह वॉटरमार्क सामान्य संपादन (edits) के बाद भी बना रहने के लिए डिज़ाइन किया गया है।

रॉयटर्स के नतीजों पर प्रतिक्रिया देते हुए, मेटा ने कहा कि यह टूल अभी एक 'प्रीव्यू' संस्करण है। कंपनी ने स्वीकार किया कि अगर किसी तस्वीर को बहुत ज़्यादा क्रॉप (heavily cropped) किया जाता है तो वॉटरमार्क का सिग्नल खो सकता है।

व्यापक संदर्भ और विशेषज्ञों की राय

यह समस्या सिर्फ मेटा तक ही सीमित नहीं है। गूगल (Google) और ओपनएआई (OpenAI) जैसी प्रतिद्वंद्वी टेक कंपनियों ने भी आगाह किया है कि उनके डिटेक्शन टूल भी इमेज-अल्टरेशन तकनीकों के खिलाफ पूरी तरह से अचूक नहीं हैं। विशेषज्ञों का कहना है कि वॉटरमार्किंग-आधारित तरीके तब तक प्रभावी होते हैं जब तक वॉटरमार्क बरकरार रहता है, लेकिन क्रॉपिंग, रीसाइज़िंग या कम्प्रेशन जैसी कोई भी प्रक्रिया उनकी प्रभावशीलता को कम कर सकती है।

इस साल मार्च में, मेटा के ओवरसाइट बोर्ड ने कंपनी से अपने प्लेटफॉर्म पर "भ्रामक AI-जनित सामग्री के प्रसार" को संबोधित करने और बेहतर पहचान उपकरणों में निवेश करने का आग्रह किया था। यह विश्लेषण इस बात पर प्रकाश डालता है कि AI-जनित सामग्री की प्रामाणिकता को सत्यापित करना अभी भी एक महत्वपूर्ण तकनीकी बाधा बनी हुई है।