मेटा का AI डिटेक्टर अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

रॉयटर्स द्वारा किए गए एक विश्लेषण के अनुसार, मेटा (Meta) का नया आर्टिफिशियल इंटेलिजेंस (AI) डिटेक्शन टूल अपनी ही AI-जनित तस्वीरों को पहचानने में तब विफल हो गया, जब उन्हें क्रॉप किया गया। यह खोज AI-जनित सामग्री में आम बदलावों के बाद उसकी प्रामाणिकता को सत्यापित करने की महत्वपूर्ण चुनौतियों को रेखांकित करती है, जिसका असर ऑनलाइन सूचना की विश्वसनीयता पर पड़ सकता है।

रॉयटर्स के विश्लेषण के मुख्य निष्कर्ष

रॉयटर्स ने मेटा के नए इमेज-जनरेशन मॉडल, Muse Image, का उपयोग करके बनाई गई 40 तस्वीरों का विश्लेषण किया। इस विश्लेषण में यह पाया गया कि डिटेक्शन टूल ने सभी मूल, बिना बदलाव वाली AI-जनित तस्वीरों की सफलतापूर्वक पहचान कर ली।

हालांकि, जब उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% मामलों में उन्हें पहचानने में विफल रहा। यह परिणाम विशेष रूप से एक व्यस्त चुनावी वर्ष में डीपफेक की पहचान को और अधिक कठिन बना सकता है, जिससे गलत सूचना फैलने का खतरा बढ़ जाता है।

'कंटेंट सील' तकनीक और मेटा की प्रतिक्रिया

मेटा का यह टूल 'कंटेंट सील' (Content Seal) नामक एक अदृश्य वॉटरमार्किंग प्रणाली पर काम करता है, जिसे Muse Image द्वारा बनाई गई हर तस्वीर में एम्बेड किया जाता है। इसका उद्देश्य यह सत्यापित करने में मदद करना है कि तस्वीर मेटा के AI मॉडल द्वारा बनाई गई है या नहीं।

Ad

रॉयटर्स के निष्कर्षों पर, मेटा ने ध्यान दिलाया कि यह टूल अभी एक 'प्रीव्यू' संस्करण है। कंपनी ने कहा कि वॉटरमार्क को सामान्य संपादन झेलने के लिए डिज़ाइन किया गया है, लेकिन किसी तस्वीर को बहुत अधिक क्रॉप करने पर सिग्नल खो सकता है। गूगल (Google) और ओपनएआई (OpenAI) जैसी प्रतिस्पर्धी कंपनियों ने भी चेतावनी दी है कि उनके डिटेक्शन टूल भी इमेज में बदलाव के खिलाफ पूरी तरह से अचूक नहीं हैं।

विशेषज्ञों की चिंता और व्यापक प्रभाव

विशेषज्ञों का कहना है कि वॉटरमार्क-आधारित सिस्टम तब तक अत्यधिक प्रभावी हो सकते हैं जब तक वॉटरमार्क बरकरार रहता है। बफेलो स्थित स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क के कंप्यूटर विज्ञान के प्रोफेसर सिवेई ल्यू (Siwei Lyu) के अनुसार, "क्रॉपिंग, रीसाइज़िंग, या भारी कम्प्रेशन जैसे कोई भी बदलाव जो एम्बेडेड सिग्नल को हटाते या कमजोर करते हैं, उनकी प्रभावशीलता को कम कर सकते हैं।"

यह सीमा तकनीकी कंपनियों के लिए एक बड़ी चुनौती है जो अपने प्लेटफॉर्म पर भ्रामक AI सामग्री को नियंत्रित करने का प्रयास कर रही हैं। इससे पहले, मेटा के अपने ओवरसाइट बोर्ड ने भी कंपनी से "भ्रामक AI-जनित सामग्री के प्रसार" को रोकने और मजबूत डिटेक्शन टूल में निवेश करने का आग्रह किया था।