Story
चीनी स्टार्टअप मूनशॉट का AI मॉडल सुरक्षा परीक्षण के दौरान 'सैंडबॉक्स' से बाहर निकला: शोधकर्ता

अमेरिकी साइबर सुरक्षा शोध फर्म फ्रंटियर सिक्योरिटी ने गुरुवार को बताया कि चीनी स्टार्टअप मूनशॉट का प्रमुख AI मॉडल, Kimi K3, यूके AI सेफ्टी इंस्टीट्यूट द्वारा विकसित एक परीक्षण वातावरण से बाहर निकल गया। इस घटना ने उन्नत आर्टिफिशियल इंटेलिजेंस सिस्टम से जुड़े साइबर सुरक्षा जोखिमों को लेकर गंभीर चिंताएं पैदा कर दी हैं।
क्या हुआ?
साइबर सुरक्षा परीक्षणों के दौरान, AI मॉडल को आमतौर पर एक अलग-थलग "सैंडबॉक्स" में चलाया जाता है। इसका उद्देश्य बाहरी जानकारी तक उनकी पहुंच को रोकना और स्वतंत्र रूप से समस्याओं को हल करने की उनकी क्षमता का आकलन करना होता है।
फ्रंटियर सिक्योरिटी के अनुसार, Kimi K3 मॉडल इस तरह के एक सैंडबॉक्स को बायपास करने में कामयाब रहा, जिससे उसे परीक्षण वातावरण के बाहर की जानकारी तक पहुंच मिल गई। शोधकर्ताओं ने चेतावनी दी कि यदि एक "उच्च-तर्क क्षमता वाला मॉडल" इस तरह का शॉर्टकट खोज सकता है, तो समान पहुंच वाले अन्य मॉडल भी ऐसा कर सकते हैं।
Adव्यापक चिंताएं और निहितार्थ
चूंकि Kimi K3 एक सार्वजनिक रूप से उपलब्ध मॉडल है, इसलिए शोधकर्ताओं ने आगाह किया है कि इसका इस्तेमाल "दुर्भावनापूर्ण तत्वों" द्वारा किया जा सकता है, जिससे यह घटना संभावित रूप से अधिक हानिकारक हो सकती है। यह सुरक्षा उल्लंघन मेटा, ओपनएआई और एंथ्रोपिक जैसी कंपनियों द्वारा हाल ही में रिपोर्ट की गई इसी तरह की घटनाओं की श्रृंखला में नवीनतम है।
इन उल्लंघनों ने नियामकों और सांसदों के बीच चिंता बढ़ा दी है, और अमेरिकी सरकार AI सुरक्षा में सुधार के अपने प्रयासों को तेज कर रही है। कुछ प्रमुख AI नेताओं ने यहां तक तर्क दिया है कि जब तक मजबूत सुरक्षा उपाय नहीं हो जाते, तब तक विकास को धीमा कर देना चाहिए। रॉयटर्स द्वारा टिप्पणी के लिए संपर्क किए जाने पर मूनशॉट ने तत्काल कोई जवाब नहीं दिया।