मेटा का AI डिटेक्शन टूल अपनी ही क्रॉप की गई तस्वीरों को पहचानने में विफल: रॉयटर्स विश्लेषण

रॉयटर्स के एक विश्लेषण के अनुसार, मेटा का नया AI डिटेक्शन टूल अपनी ही AI-जनित कुछ तस्वीरों को क्रॉप (काटने) के बाद पहचानने में विफल रहा। यह खोज डीपफेक और ऑनलाइन गलत सूचनाओं का पता लगाने में आने वाली तकनीकी चुनौतियों को उजागर करती है, खासकर एक महत्वपूर्ण चुनावी वर्ष के दौरान।

विश्लेषण के मुख्य निष्कर्ष

रॉयटर्स ने मेटा के नए इमेज-जनरेशन मॉडल, Muse Image, द्वारा बनाई गई 40 तस्वीरों का परीक्षण किया। जांच में पाया गया कि डिटेक्शन टूल ने सभी मूल AI-जनित तस्वीरों की सही पहचान की।

हालांकि, जब उन्हीं तस्वीरों को उनके मूल आकार के लगभग एक-तिहाई से आधे तक क्रॉप किया गया, तो टूल उनमें से 55% को पहचानने में विफल रहा। मेटा का यह टूल "कंटेंट सील" (Content Seal) नामक एक अदृश्य वॉटरमार्किंग प्रणाली पर काम करता है, जिसे सामान्य बदलावों के बाद भी AI-जनित सामग्री की पहचान करने के लिए डिज़ाइन किया गया है।

कंपनी की प्रतिक्रिया और विशेषज्ञों की चिंताएं

रॉयटर्स के नतीजों के जवाब में, मेटा ने उल्लेख किया कि यह टूल अभी भी एक "प्रीव्यू" संस्करण है। कंपनी ने स्वीकार किया कि अगर किसी तस्वीर को बहुत ज्यादा क्रॉप किया जाता है तो वॉटरमार्क का सिग्नल कमजोर पड़ सकता है या खत्म हो सकता है।

Ad

यह समस्या सिर्फ मेटा तक ही सीमित नहीं है। गूगल और ओपनएआई जैसी प्रतिद्वंद्वी तकनीकी कंपनियों ने भी चेतावनी दी है कि उनके डिटेक्शन टूल भी इमेज में बदलाव किए जाने पर पूरी तरह से अचूक नहीं हैं। विशेषज्ञों का कहना है कि वॉटरमार्क-आधारित सिस्टम तब तक प्रभावी होते हैं जब तक वॉटरमार्क बरकरार रहता है, लेकिन क्रॉपिंग या एडिटिंग जैसे बदलाव उनकी प्रभावशीलता को कम कर सकते हैं।

बाजार और निवेशकों के लिए निहितार्थ

यह घटनाक्रम डीपफेक और AI-जनित भ्रामक सामग्री के प्रसार को रोकने की चुनौतियों को रेखांकित करता है। प्रभावी पहचान उपकरणों की कमी से ऑनलाइन प्लेटफॉर्मों पर गलत सूचनाओं का जोखिम बढ़ जाता है, जिसका असर जनमत पर पड़ सकता है।

निवेशकों के लिए, यह तकनीकी कंपनियों पर बढ़ते नियामक दबाव का संकेत है। सरकारों और निगरानी संस्थाओं द्वारा मेटा जैसी कंपनियों से अपनी सामग्री का पता लगाने की क्षमताओं को मजबूत करने की मांग की जा सकती है। इससे पहले मार्च में, मेटा के ओवरसाइट बोर्ड ने भी कंपनी से "भ्रामक AI-जनित सामग्री" से निपटने के लिए बेहतर डिटेक्शन टूल में निवेश करने का आग्रह किया था।