मेटा का AI डिटेक्टर अपनी ही क्रॉप की गई छवियों को पहचानने में विफल: रॉयटर्स विश्लेषण

रॉयटर्स के एक विश्लेषण में पाया गया है कि मेटा का नया एआई डिटेक्शन टूल, कंपनी की अपनी ही एआई-जनित कुछ तस्वीरों को क्रॉप किए जाने के बाद पहचानने में विफल रहा। यह खोज एआई द्वारा बनाई गई सामग्री के सत्यापन में आने वाली चुनौतियों को उजागर करती है, खासकर जब उनमें सामान्य बदलाव किए जाते हैं।

विश्लेषण के मुख्य निष्कर्ष

मेटा ने हाल ही में अपने इमेज-जेनरेशन मॉडल 'म्यूज़ इमेज' (Muse Image) के साथ इस डिटेक्शन टूल का प्रीव्यू जारी किया था। रॉयटर्स ने इस टूल का परीक्षण करने के लिए म्यूज़ इमेज का उपयोग करके 40 छवियां बनाईं।

• टूल ने सभी 40 मूल एआई-जनित छवियों की सफलतापूर्वक पहचान की।
• हालांकि, जब उन्हीं छवियों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% मामलों में उन्हें पहचानने में विफल रहा।

मेटा का कहना है कि यह टूल 'कंटेंट सील' (Content Seal) नामक एक अदृश्य वॉटरमार्किंग प्रणाली पर काम करता है, जो म्यूज़ इमेज द्वारा बनाई गई हर तस्वीर में एम्बेड की जाती है। कंपनी के अनुसार, इसे इस तरह से डिज़ाइन किया गया है कि क्रॉपिंग जैसे सामान्य संपादन के बाद भी यह बनी रहे।

मेटा की प्रतिक्रिया और विशेषज्ञों की राय

Ad

रॉयटर्स के विश्लेषण के जवाब में, मेटा ने इस बात पर जोर दिया कि यह टूल अभी भी एक "प्रीव्यू" संस्करण है। कंपनी ने कहा कि वॉटरमार्क सामान्य संपादन के बाद बरकरार रहने के लिए डिज़ाइन किया गया है, लेकिन अगर किसी छवि को बहुत ज़्यादा क्रॉप किया जाता है तो सिग्नल खो सकता है।

यह समस्या सिर्फ मेटा तक ही सीमित नहीं है। गूगल और ओपनएआई जैसी प्रतिस्पर्धी প্রযুক্তি कंपनियों ने भी स्वीकार किया है कि उनके डिटेक्शन टूल भी इमेज-अल्टरेशन तकनीकों के सामने पूरी तरह से अचूक नहीं हैं। बफ़ेलो में स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क के कंप्यूटर विज्ञान के प्रोफेसर सिवेई ल्यू ने कहा कि वॉटरमार्क-आधारित प्रणालियों की अपनी सीमाएँ हैं और क्रॉपिंग या रीसाइज़िंग जैसे बदलाव उनकी प्रभावशीलता को कम कर सकते हैं।

बाज़ार और निवेशकों के लिए निहितार्थ

यह खोज एक ऐसे समय में हुई है जब दुनिया भर में चुनावों का दौर चल रहा है और डीपफेक के माध्यम से गलत सूचना फैलने का खतरा बढ़ गया है। एआई-जनित सामग्री का मज़बूती से पता लगाने में विफलता मेटा जैसी सोशल मीडिया कंपनियों के लिए एक महत्वपूर्ण प्रतिष्ठा और नियामक जोखिम पैदा करती है।

मार्च में, मेटा के अपने ओवरसाइट बोर्ड ने कंपनी से अपने प्लेटफ़ॉर्म पर "भ्रामक एआई-जनित सामग्री के प्रसार" को संबोधित करने और बेहतर डिटेक्शन टूल में निवेश करने का आग्रह किया था। इस टूल की वर्तमान सीमाएं यह दर्शाती हैं कि विश्वसनीय एआई पहचान तकनीक विकसित करना कितना जटिल है, जो निवेशकों के लिए कंपनी की जोखिम प्रबंधन क्षमताओं के बारे में चिंता का विषय हो सकता है।