मेटा का AI इमेज डिटेक्टर अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

रॉयटर्स के एक विश्लेषण के अनुसार, मेटा (META) का नया आर्टिफिशियल इंटेलिजेंस (AI) डिटेक्शन टूल अपनी ही AI-जनित कुछ तस्वीरों को पहचानने में विफल रहा, जब उन्हें क्रॉप कर दिया गया। यह खोज ऑनलाइन डीपफेक और हेरफेर की गई सामग्री का पता लगाने में मौजूदा प्रौद्योगिकी की सीमाओं को उजागर करती है, जो एक व्यस्त चुनावी वर्ष में विशेष रूप से चिंताजनक है।

विश्लेषण के मुख्य निष्कर्ष

रॉयटर्स ने मेटा के नए इमेज-जनरेशन मॉडल, 'म्यूज इमेज' (Muse Image) का उपयोग करके बनाई गई 40 तस्वीरों का विश्लेषण किया। इस जांच के प्रमुख निष्कर्ष इस प्रकार हैं:

• डिटेक्शन टूल ने सभी मूल (original) AI-जनित तस्वीरों की सफलतापूर्वक पहचान की।
• हालांकि, जब उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल उनमें से 55% की पहचान करने में विफल रहा।

मेटा का कहना है कि यह टूल 'कंटेंट सील' (Content Seal) नामक एक अदृश्य वॉटरमार्किंग सिस्टम का उपयोग करता है, जो म्यूज इमेज द्वारा बनाई गई हर तस्वीर में एम्बेड किया जाता है। इसका उद्देश्य यह सत्यापित करने में मदद करना है कि तस्वीर मेटा के AI मॉडल द्वारा बनाई गई थी।

मेटा की प्रतिक्रिया और तकनीकी सीमाएं

Ad

रॉयटर्स के विश्लेषण के जवाब में, मेटा ने इस बात पर जोर दिया कि यह टूल अभी एक 'प्रीव्यू' संस्करण है। कंपनी ने कहा कि वॉटरमार्क को सामान्य संपादन (common edits) के बाद भी बरकरार रहने के लिए डिज़ाइन किया गया है, लेकिन अगर किसी तस्वीर को बहुत ज्यादा क्रॉप किया जाता है तो सिग्नल खो सकता है।

यह समस्या केवल मेटा तक ही सीमित नहीं है। गूगल (Google) और ओपनएआई (OpenAI) जैसी प्रतिस्पर्धी तकनीकी कंपनियों ने भी चेतावनी दी है कि उनके पहचान उपकरण भी इमेज-अल्टरेशन तकनीकों के सामने पूरी तरह से अचूक नहीं हैं। विशेषज्ञों का कहना है कि वॉटरमार्क-आधारित सिस्टम तब तक प्रभावी होते हैं जब तक वॉटरमार्क बरकरार रहता है, लेकिन क्रॉपिंग, रीसाइज़िंग या हेवी कम्प्रेशन जैसी कोई भी गतिविधि उनकी प्रभावशीलता को कम कर सकती है।

निवेशकों और बाजार के लिए इसका क्या मतलब है

AI-जनित भ्रामक सामग्री की बढ़ती चिंता के बीच डिटेक्शन टूल की यह विफलता महत्वपूर्ण है। निवेशकों के लिए, यह मेटा जैसी सोशल मीडिया कंपनियों के लिए एक बड़े जोखिम को रेखांकित करता है, जिन्हें अपने प्लेटफॉर्म पर डीपफेक और गलत सूचना के प्रसार को रोकने के लिए दबाव का सामना करना पड़ रहा है।

मार्च में, मेटा के ओवरसाइट बोर्ड ने कंपनी से अपने प्लेटफॉर्म पर "भ्रामक AI-जनित सामग्री के प्रसार" को संबोधित करने और मजबूत डिटेक्शन टूल में निवेश करने का आग्रह किया था। प्रभावी पहचान तंत्र बनाने में विफलता से भविष्य में नियामकीय जांच और कंपनी की प्रतिष्ठा को नुकसान हो सकता है, जो सीधे तौर पर निवेशक के विश्वास को प्रभावित कर सकता है।