मेटा का AI डिटेक्टर अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

मेटा के एक नए AI डिटेक्शन टूल को लेकर किए गए रॉयटर्स के विश्लेषण में एक महत्वपूर्ण खामी सामने आई है। यह टूल अपनी ही AI तकनीक से बनाई गई कुछ तस्वीरों को पहचानने में विफल रहा, खासकर जब उन तस्वीरों को क्रॉप कर दिया गया हो। यह खोज डीपफेक और AI-जनित सामग्री की पहचान करने की तकनीकी चुनौतियों को उजागर करती है, जो एक व्यस्त चुनावी वर्ष में विशेष रूप से चिंता का विषय है।

विश्लेषण के प्रमुख निष्कर्ष

रॉयटर्स ने मेटा के नए इमेज-जनरेशन मॉडल, Muse Image, का उपयोग करके बनाई गई 40 तस्वीरों का विश्लेषण किया। इस विश्लेषण में पाया गया कि डिटेक्शन टूल ने सभी मूल AI-जनित तस्वीरों की सफलतापूर्वक पहचान कर ली।

हालांकि, जब उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% मामलों में उनकी पहचान करने में विफल रहा। यह परिणाम मेटा के दावे के विपरीत है, जिसमें कहा गया था कि उसका 'कंटेंट सील' नामक अदृश्य वॉटरमार्किंग सिस्टम क्रॉपिंग जैसे सामान्य बदलावों के बाद भी तस्वीरों की पहचान कर सकता है।

मेटा की प्रतिक्रिया और तकनीकी सीमाएं

रॉयटर्स के विश्लेषण पर प्रतिक्रिया देते हुए, मेटा ने इस बात पर जोर दिया कि यह टूल अभी एक 'प्रीव्यू' संस्करण है। कंपनी ने स्वीकार किया कि वॉटरमार्क को सामान्य संपादनों का सामना करने के लिए डिज़ाइन किया गया है, लेकिन अगर किसी तस्वीर को बहुत अधिक क्रॉप किया जाता है तो वॉटरमार्क का सिग्नल खो सकता है।

Ad

यह चुनौती केवल मेटा तक ही सीमित नहीं है। गूगल और ओपनएआई जैसी अन्य प्रमुख तकनीकी कंपनियों ने भी स्वीकार किया है कि उनके डिटेक्शन टूल इमेज में बदलाव किए जाने पर पूरी तरह से अचूक नहीं हैं। यह AI-जनित सामग्री की प्रामाणिकता को सत्यापित करने में एक व्यापक उद्योग-व्यापी समस्या को दर्शाता है।

विशेषज्ञों की राय और भविष्य की चुनौतियाँ

AI इमेज फोरेंसिक के विशेषज्ञ और स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क एट बफ़ेलो में कंप्यूटर साइंस के प्रोफेसर सिवेई ल्यू के अनुसार, वॉटरमार्क-आधारित सिस्टम तब तक प्रभावी होते हैं जब तक वॉटरमार्क बरकरार रहता है। उन्होंने कहा, "क्रॉपिंग, आकार बदलने या भारी कंप्रेशन जैसे कोई भी बदलाव उनकी प्रभावशीलता को कम कर सकते हैं।"

यह स्थिति मेटा के ओवरसाइट बोर्ड द्वारा मार्च में व्यक्त की गई चिंताओं को बल देती है, जिसने कंपनी से अपने प्लेटफॉर्म पर "भ्रामक AI-जनित सामग्री के प्रसार" से निपटने के लिए मजबूत डिटेक्शन टूल में निवेश करने का आग्रह किया था। विशेषज्ञों का मानना है कि वॉटरमार्किंग एक आशाजनक तकनीक है, लेकिन यह पूरी तरह से अचूक समाधान नहीं हो सकता है, और गलत सूचनाओं से निपटने के लिए बहु-आयामी दृष्टिकोण की आवश्यकता होगी।