मेटा का AI इमेज डिटेक्टर अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

रॉयटर्स के एक विश्लेषण के अनुसार, मेटा का नया AI डिटेक्शन टूल अपनी ही AI-जनित कुछ तस्वीरों की पहचान करने में विफल रहा, जब उन तस्वीरों को क्रॉप कर दिया गया। यह खोज ऐसे समय में AI-जनित कंटेंट को सत्यापित करने की चुनौतियों को रेखांकित करती है, जब दुनिया भर में चुनावों के दौरान डीपफेक को लेकर चिंताएं बढ़ रही हैं।

विश्लेषण के मुख्य निष्कर्ष

रॉयटर्स ने मेटा के नए इमेज-जनरेशन मॉडल, 'म्यूज इमेज' (Muse Image) का उपयोग करके बनाई गई 40 तस्वीरों का विश्लेषण किया। जांच में पाया गया कि डिटेक्शन टूल ने सभी मूल AI-जनित तस्वीरों की सफलतापूर्वक पहचान कर ली।

हालांकि, जब उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल 55% मामलों में यह पहचानने में विफल रहा कि वे AI द्वारा बनाई गई थीं। मेटा का कहना है कि उसका डिटेक्शन टूल 'कंटेंट सील' (Content Seal) नामक एक अदृश्य वॉटरमार्किंग प्रणाली पर काम करता है, जो म्यूज इमेज द्वारा बनाई गई हर तस्वीर में एम्बेड की जाती है।

मेटा की प्रतिक्रिया और तकनीकी सीमाएं

रॉयटर्स के विश्लेषण के जवाब में, मेटा ने बताया कि यह टूल अभी एक "प्रीव्यू" संस्करण है। कंपनी ने कहा कि वॉटरमार्क को सामान्य संपादन (edits) के बाद भी बरकरार रहने के लिए डिज़ाइन किया गया है, लेकिन अगर किसी तस्वीर को बहुत ज्यादा क्रॉप किया जाता है तो सिग्नल खो सकता है।

Ad

यह चुनौती केवल मेटा तक ही सीमित नहीं है। गूगल और ओपनएआई (OpenAI) जैसी प्रतिस्पर्धी टेक कंपनियों ने भी स्वीकार किया है कि उनके डिटेक्शन उपकरण इमेज-अल्टरेशन तकनीकों के खिलाफ पूरी तरह से अचूक नहीं हैं। यह AI-जनित कंटेंट की प्रामाणिकता सुनिश्चित करने में उद्योग-व्यापी कठिनाई को दर्शाता है।

विशेषज्ञों की राय और व्यापक प्रभाव

न्यूयॉर्क स्टेट यूनिवर्सिटी के कंप्यूटर साइंस के प्रोफेसर सिवेई ल्यू (Siwei Lyu) ने कहा कि वॉटरमार्क-आधारित सिस्टम तब तक बहुत प्रभावी होते हैं जब तक वॉटरमार्क बरकरार रहता है। उन्होंने कहा, "क्रॉपिंग, रीसाइज़िंग, या भारी कम्प्रेशन जैसी कोई भी गतिविधि जो एम्बेडेड सिग्नल को हटाती या कमजोर करती है, उनकी प्रभावशीलता को कम कर सकती है।"

इस बीच, मेटा के ओवरसाइट बोर्ड ने मार्च में कंपनी से अपने प्लेटफॉर्म पर "भ्रामक AI-जनित कंटेंट के प्रसार" को रोकने और बेहतर डिटेक्शन टूल में निवेश करने का आग्रह किया था। यह घटनाक्रम डीपफेक और गलत सूचनाओं के खिलाफ तकनीकी समाधानों की सीमाओं और निरंतर सुधार की आवश्यकता पर प्रकाश डालता है।