मेटा का AI डिटेक्टर अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

रॉयटर्स के एक विश्लेषण से पता चला है कि मेटा का नया आर्टिफिशियल इंटेलिजेंस (AI) डिटेक्शन टूल अपनी ही AI-जनित कुछ छवियों की पहचान करने में विफल रहा, जब उन्हें क्रॉप कर दिया गया। यह खोज AI-जनित सामग्री, विशेष रूप से डीपफेक, के सत्यापन में आने वाली चुनौतियों को उजागर करती है, जो एक व्यस्त चुनावी वर्ष में चिंता का विषय है।

विश्लेषण के प्रमुख निष्कर्ष

रॉयटर्स ने मेटा के इमेज-जनरेशन मॉडल, म्यूज़ इमेज (Muse Image) का उपयोग करके बनाई गई 40 छवियों का विश्लेषण किया। इस विश्लेषण में पाया गया कि डिटेक्शन टूल ने सभी मूल AI-जनित छवियों को सफलतापूर्वक सत्यापित कर दिया।

हालांकि, जब उन्हीं छवियों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% मामलों में उनकी पहचान करने में विफल रहा। यह परिणाम मेटा के उस दावे के विपरीत है जिसमें कहा गया था कि उसका अदृश्य वॉटरमार्किंग सिस्टम, जिसे 'कंटेंट सील' (Content Seal) कहा जाता है, क्रॉपिंग जैसे सामान्य बदलावों के बाद भी छवियों की पहचान कर सकता है।

मेटा की प्रतिक्रिया और तकनीकी सीमाएं

रॉयटर्स के विश्लेषण के जवाब में, मेटा ने कहा कि यह टूल अभी एक 'प्रीव्यू' संस्करण है। कंपनी ने स्वीकार किया कि वॉटरमार्क को सामान्य संपादनों का सामना करने के लिए डिज़ाइन किया गया है, लेकिन यदि किसी छवि को बहुत अधिक क्रॉप किया जाता है तो सिग्नल खो सकता है।

Ad

यह सीमा केवल मेटा तक ही सीमित नहीं है। गूगल और ओपनएआई जैसी प्रतिस्पर्धी तकनीकी कंपनियों ने भी चेतावनी दी है कि उनके डिटेक्शन टूल भी छवि-परिवर्तन तकनीकों के सामने पूरी तरह से अचूक नहीं हैं। यह AI-जनित भ्रामक सामग्री के प्रसार को रोकने में उद्योग के सामने मौजूद एक बड़ी चुनौती को दर्शाता है।

विशेषज्ञों की राय और भविष्य की राह

विशेषज्ञों का मानना है कि वॉटरमार्क-आधारित प्रणालियों की अपनी सीमाएं हैं। बफ़ेलो में स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क के कंप्यूटर विज्ञान के प्रोफेसर सिवेई ल्यू (Siwei Lyu) के अनुसार, जब तक वॉटरमार्क बरकरार रहता है, ये तरीके अत्यधिक प्रभावी हो सकते हैं, लेकिन क्रॉपिंग, आकार बदलने या भारी कंप्रेशन जैसे किसी भी संशोधन से उनकी प्रभावशीलता कम हो सकती है।

इसके बावजूद, कुछ शोधकर्ता वॉटरमार्किंग को एक सकारात्मक कदम मानते हैं। यूसी बर्कले स्कूल ऑफ इंफॉर्मेशन की एआई शोधकर्ता सारा बैरिंगटन (Sarah Barrington) ने कहा कि भले ही यह प्रणाली पूरी तरह से अभेद्य न हो, लेकिन अगर हम 90% मामलों को भी पकड़ पाते हैं, तो यह शून्य से एक बड़ी छलांग है।