मेटा का AI डिटेक्टर अपनी ही बनाई क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

रॉयटर्स के एक विश्लेषण के अनुसार, मेटा का नया आर्टिफिशियल इंटेलिजेंस (AI) डिटेक्शन टूल अपनी ही AI-जनित कुछ तस्वीरों को क्रॉप (काटने) के बाद पहचानने में विफल रहा। यह खोज AI द्वारा बनाई गई सामग्री, विशेष रूप से डीपफेक की पहचान करने और उसे सत्यापित करने में आने वाली तकनीकी चुनौतियों को उजागर करती है, जो निवेशकों और नियामकों के लिए एक बढ़ती चिंता का विषय है।

विश्लेषण के मुख्य निष्कर्ष

रॉयटर्स ने मेटा के नए इमेज-जनरेशन मॉडल, 'म्यूज़ इमेज' (Muse Image) का उपयोग करके बनाई गई 40 तस्वीरों का विश्लेषण किया। इस विश्लेषण में कई महत्वपूर्ण बातें सामने आईं:

• टूल ने सभी मूल (original) AI-जनित तस्वीरों की सफलतापूर्वक पहचान कर ली।
• हालांकि, जब उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% मामलों में उनकी पहचान करने में विफल रहा।
• मेटा का यह सिस्टम 'कंटेंट सील' (Content Seal) नामक एक अदृश्य वॉटरमार्किंग तकनीक पर काम करता है, जिसे क्रॉपिंग जैसे सामान्य बदलावों के बाद भी बरकरार रहना चाहिए।

तकनीकी सीमाएं और कंपनी की प्रतिक्रिया

रॉयटर्स के निष्कर्षों पर प्रतिक्रिया देते हुए, मेटा ने कहा कि यह टूल अभी एक "प्रीव्यू" संस्करण है। कंपनी ने स्वीकार किया कि वॉटरमार्क को सामान्य संपादन (edits) का सामना करने के लिए डिज़ाइन किया गया है, लेकिन किसी तस्वीर को बहुत ज्यादा क्रॉप करने पर वॉटरमार्क का सिग्नल खत्म हो सकता है।

Ad

विशेषज्ञों का कहना है कि वॉटरमार्क-आधारित सिस्टम की अपनी सीमाएं होती हैं। बफ़ेलो में स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क के कंप्यूटर साइंस के प्रोफेसर सिवेई ल्यू (Siwei Lyu) के अनुसार, "क्रॉपिंग, रीसाइज़िंग या भारी कम्प्रेशन जैसी कोई भी गतिविधि जो एम्बेडेड सिग्नल को हटाती या कमजोर करती है, वह इन उपकरणों की प्रभावशीलता को कम कर सकती है।"

निवेशकों और बाजार के लिए निहितार्थ

यह खोज डीपफेक और ऑनलाइन गलत सूचनाओं को पहचानने की व्यापक चुनौती को रेखांकित करती है, जो एक व्यस्त चुनावी वर्ष में विशेष रूप से महत्वपूर्ण है। मेटा जैसे सोशल मीडिया प्लेटफॉर्म के लिए, AI-जनित भ्रामक सामग्री को प्रभावी ढंग से नियंत्रित करने में विफलता नियामक जांच और प्रतिष्ठा को नुकसान पहुंचा सकती है, जो अंततः निवेशक के विश्वास को प्रभावित कर सकता है।

मार्च में, मेटा के अपने ओवरसाइट बोर्ड ने कंपनी से "भ्रामक AI-जनित सामग्री के प्रसार" से निपटने के लिए और मजबूत पहचान उपकरण में निवेश करने का आग्रह किया था। यह घटनाक्रम दर्शाता है कि विश्वसनीय AI पहचान तकनीक विकसित करना तकनीकी कंपनियों के लिए एक महत्वपूर्ण लेकिन मुश्किल काम बना हुआ है। गूगल और ओपनएआई (OpenAI) जैसी प्रतिस्पर्धी कंपनियों ने भी चेतावनी दी है कि उनके पहचान उपकरण भी पूरी तरह से अचूक नहीं हैं।