मेटा का AI इमेज डिटेक्टर अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

रॉयटर्स के एक विश्लेषण के अनुसार, मेटा का नया आर्टिफिशियल इंटेलिजेंस (AI) डिटेक्शन टूल अपनी ही AI-जनित कुछ तस्वीरों की पहचान करने में विफल रहा, जब उन्हें क्रॉप कर दिया गया। यह खोज AI द्वारा बनाई गई सामग्री, विशेष रूप से डीपफेक, को पहचानने और सत्यापित करने में तकनीकी उद्योग के सामने आने वाली महत्वपूर्ण चुनौतियों को दर्शाती है।

विश्लेषण के मुख्य निष्कर्ष

रॉयटर्स ने मेटा के नए इमेज-जनरेशन मॉडल, 'म्यूज इमेज' (Muse Image) का उपयोग करके बनाई गई 40 तस्वीरों का विश्लेषण किया। जांच में पाया गया कि डिटेक्शन टूल ने सभी मूल AI-जनित तस्वीरों की सफलतापूर्वक पहचान कर ली।

हालांकि, जब उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% मामलों में उनकी पहचान करने में विफल रहा। मेटा का कहना है कि यह टूल 'कंटेंट सील' (Content Seal) नामक एक अदृश्य वॉटरमार्किंग प्रणाली का उपयोग करता है, जिसे क्रॉपिंग जैसे सामान्य बदलावों के बाद भी बने रहने के लिए डिज़ाइन किया गया है।

मेटा की प्रतिक्रिया और व्यापक संदर्भ

रॉयटर्स के निष्कर्षों पर प्रतिक्रिया देते हुए, मेटा ने इस बात पर जोर दिया कि यह टूल अभी एक 'प्रीव्यू' संस्करण है। कंपनी ने स्वीकार किया कि वॉटरमार्क को सामान्य संपादनों का सामना करने के लिए बनाया गया है, लेकिन अगर किसी तस्वीर को बहुत अधिक क्रॉप किया जाता है, तो वॉटरमार्क का सिग्नल खत्म हो सकता है।

Ad

यह सीमा एक व्यस्त चुनावी वर्ष के दौरान विशेष रूप से चिंताजनक है, क्योंकि यह ऑनलाइन डीपफेक की पहचान करना और भ्रामक सूचनाओं के प्रसार को रोकना और भी कठिन बना सकती है। मेटा की प्रतिस्पर्धी कंपनियां गूगल और ओपनएआई ने भी चेतावनी दी है कि उनके डिटेक्शन टूल भी इमेज में बदलाव की तकनीकों के सामने पूरी तरह से अचूक नहीं हैं।

विशेषज्ञों की राय और भविष्य की चुनौतियां

विशेषज्ञों का कहना है कि वॉटरमार्क-आधारित सिस्टम की अपनी सीमाएँ हैं। बफ़ेलो में स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क के कंप्यूटर विज्ञान के प्रोफेसर सिवेई ल्यू (Siwei Lyu) ने कहा, "वॉटरमार्क-आधारित तरीके तब तक अत्यधिक प्रभावी हो सकते हैं जब तक वॉटरमार्क बरकरार रहता है, लेकिन क्रॉपिंग, आकार बदलने या भारी कंप्रेशन जैसे कोई भी संशोधन उनकी प्रभावशीलता को कम कर सकते हैं।"

इससे पहले मार्च में, मेटा के अपने ओवरसाइट बोर्ड ने कंपनी से अपने प्लेटफॉर्म पर "भ्रामक AI-जनित सामग्री के प्रसार" को संबोधित करने और बेहतर डिटेक्शन टूल में निवेश करने का आग्रह किया था। यह घटनाक्रम AI सामग्री की प्रामाणिकता सुनिश्चित करने में उद्योग के सामने मौजूद निरंतर तकनीकी बाधाओं को रेखांकित करता है।