मेटा का AI डिटेक्टर अपनी ही क्रॉप की गई AI तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

रॉयटर्स के एक विश्लेषण के अनुसार, मेटा का नया आर्टिफिशियल इंटेलिजेंस (AI) डिटेक्शन टूल अपनी ही AI-जनित कुछ तस्वीरों की पहचान करने में विफल रहा, जब उन्हें क्रॉप कर दिया गया। यह खोज AI-जनित सामग्री, विशेष रूप से डीपफेक को सत्यापित करने में मौजूद चुनौतियों को उजागर करती है, जो एक व्यस्त चुनावी वर्ष में एक महत्वपूर्ण सीमा साबित हो सकती है।

विश्लेषण के मुख्य निष्कर्ष

रॉयटर्स ने मेटा के 'म्यूज इमेज' मॉडल का उपयोग करके बनाई गई 40 तस्वीरों का विश्लेषण किया। जांच में पाया गया कि डिटेक्शन टूल ने सभी मूल AI-जनित तस्वीरों की सफलतापूर्वक पहचान कर ली।

हालांकि, जब उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल उनमें से 55% की पहचान करने में विफल रहा। यह परिणाम दर्शाता है कि सामान्य फोटो संपादन, जैसे क्रॉपिंग, AI सामग्री का पता लगाने वाले सिस्टम को आसानी से चकमा दे सकता है।

मेटा की तकनीक और प्रतिक्रिया

मेटा का कहना है कि उसका डिटेक्शन टूल 'कंटेंट सील' नामक एक अदृश्य वॉटरमार्किंग प्रणाली पर काम करता है, जो म्यूज इमेज द्वारा बनाई गई हर तस्वीर में अंतर्निहित होती है। कंपनी के अनुसार, यह वॉटरमार्क सामान्य संपादन के बाद भी बना रहने के लिए डिज़ाइन किया गया है।

Ad

रॉयटर्स के विश्लेषण के जवाब में, मेटा ने कहा कि यह टूल अभी भी एक 'प्रीव्यू' संस्करण है। कंपनी ने स्वीकार किया कि यदि किसी तस्वीर को बहुत अधिक क्रॉप किया जाता है तो वॉटरमार्क सिग्नल खो सकता है। गूगल और ओपनएआई जैसी प्रतिस्पर्धी टेक कंपनियों ने भी आगाह किया है कि उनके डिटेक्शन टूल भी इमेज-अल्टरेशन तकनीकों के खिलाफ पूरी तरह से अचूक नहीं हैं।

व्यापक निहितार्थ और विशेषज्ञ राय

यह खोज AI-जनित भ्रामक सामग्री के प्रसार को रोकने में आने वाली कठिनाइयों को रेखांकित करती है। बफ़ेलो में स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क के कंप्यूटर विज्ञान के प्रोफेसर सिवेई ल्यू ने कहा कि वॉटरमार्क-आधारित तरीके तब तक प्रभावी होते हैं जब तक वॉटरमार्क बरकरार रहता है, लेकिन क्रॉपिंग या रीसाइज़िंग जैसी कोई भी प्रक्रिया उनकी प्रभावशीलता को कम कर सकती है।

विशेषज्ञों का मानना है कि वॉटरमार्किंग AI-जनित सामग्री के भविष्य के लिए एक आशाजनक तकनीक है, लेकिन यह पूरी तरह से सुरक्षित नहीं हो सकती है। हालांकि, उनका यह भी कहना है कि यदि यह प्रणाली 90% मामलों को भी पकड़ लेती है, तो यह कुछ भी न होने से एक बड़ी छलांग है। यह तकनीक डीपफेक की पहचान करने और ऑनलाइन प्लेटफॉर्म पर गलत सूचनाओं के प्रसार को सीमित करने के प्रयासों का एक महत्वपूर्ण हिस्सा बनी हुई है।