मेटा का एआई इमेज डिटेक्टर अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

मेटा के नए आर्टिफिशियल इंटेलिजेंस (AI) डिटेक्शन टूल पर किए गए एक विश्लेषण से पता चला है कि यह टूल अपनी ही एआई-जनरेटेड तस्वीरों को क्रॉप किए जाने के बाद पहचानने में विफल रहा। रॉयटर्स द्वारा किए गए इस विश्लेषण ने एआई-जनरेटेड कंटेंट की प्रामाणिकता को सत्यापित करने में आने वाली तकनीकी चुनौतियों को उजागर किया है।

विश्लेषण के प्रमुख निष्कर्ष

रॉयटर्स ने मेटा के नए इमेज-जनरेशन मॉडल, 'म्यूज इमेज' (Muse Image) का उपयोग करके 40 तस्वीरें बनाईं। जांच में पाया गया कि मेटा का डिटेक्शन टूल सभी मूल (original) एआई-जनरेटेड तस्वीरों की पहचान करने में सफल रहा।

हालांकि, जब इन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% मामलों में उनकी पहचान करने में विफल हो गया। यह परिणाम मेटा के 'कंटेंट सील' (Content Seal) नामक अदृश्य वॉटरमार्किंग सिस्टम की सीमाओं को दर्शाता है, जिसे सामान्य एडिटिंग के बाद भी कंटेंट की पहचान करने के लिए डिज़ाइन किया गया है।

मेटा की प्रतिक्रिया और विशेषज्ञों की राय

रॉयटर्स के निष्कर्षों पर प्रतिक्रिया देते हुए, मेटा ने कहा कि यह टूल अभी एक 'प्रीव्यू' संस्करण है। कंपनी ने स्वीकार किया कि वॉटरमार्क को सामान्य बदलावों को झेलने के लिए डिज़ाइन किया गया है, लेकिन अगर किसी इमेज को बहुत ज्यादा क्रॉप किया जाता है, तो वॉटरमार्क का सिग्नल खत्म हो सकता है।

Ad

विशेषज्ञों का कहना है कि वॉटरमार्क-आधारित सिस्टम की अपनी सीमाएं होती हैं। बफ़ेलो में स्टेट यूनिवर्सिटी ऑफ़ न्यूयॉर्क के कंप्यूटर साइंस के प्रोफेसर सिवेई ल्यू (Siwei Lyu) के अनुसार, "क्रॉपिंग, रीसाइज़िंग या हैवी कम्प्रेशन जैसी कोई भी प्रक्रिया जो वॉटरमार्क को हटाती या कमजोर करती है, वह इसकी प्रभावशीलता को कम कर सकती है।"

बाजार और निवेशकों के लिए मायने

यह घटनाक्रम ऐसे समय में सामने आया है जब दुनिया भर में चुनावों का दौर चल रहा है और डीपफेक के जरिए गलत सूचना फैलने का खतरा बढ़ गया है। डिटेक्शन टेक्नोलॉजी की यह विफलता मेटा (META) जैसी बड़ी टेक कंपनियों के लिए नियामक जांच (regulatory scrutiny) और प्रतिष्ठा संबंधी जोखिम बढ़ा सकती है।

निवेशकों को इन कंपनियों द्वारा कंटेंट मॉडरेशन और एआई सुरक्षा प्रौद्योगिकियों में किए जा रहे निवेश पर बारीकी से नजर रखनी चाहिए। मार्च में, मेटा के ओवरसाइट बोर्ड ने भी कंपनी से अपने प्लेटफॉर्म पर "भ्रामक एआई-जनरेटेड कंटेंट के प्रसार" से निपटने और बेहतर डिटेक्शन टूल में निवेश करने का आग्रह किया था।