Story
OpenAI ने आगामी मॉडल में 'गंभीर' साइबर सुरक्षा जोखिम की आशंका जताई, नियंत्रण कड़े किए

OpenAI ने शुक्रवार को घोषणा की कि वह अपने आगामी आर्टिफिशियल इंटेलिजेंस (AI) मॉडल, 'एस्ट्रा' में "गंभीर" (critical) साइबर सुरक्षा क्षमताओं की मौजूदगी की संभावना से इनकार नहीं कर सकता है। इस खुलासे के बाद, स्टार्टअप ने कुछ आंतरिक विकास गतिविधियों को रोक दिया है और अपने सुरक्षा प्रोटोकॉल को तत्काल प्रभाव से सक्रिय कर दिया है।
क्या है पूरा मामला?
OpenAI के सुरक्षा दिशानिर्देशों के अनुसार, एक AI मॉडल को "गंभीर" तब माना जाता है जब वह मानवीय हस्तक्षेप के बिना स्वायत्त रूप से काम कर सकता है। इसमें ज़ीरो-डे एक्सप्लॉइट्स जैसी गंभीर, वास्तविक सॉफ़्टवेयर कमजोरियों की पहचान करना और उनका फायदा उठाना, या अत्यधिक सुरक्षित लक्ष्यों के खिलाफ जटिल साइबर हमले करना शामिल है।
कंपनी ने कहा कि पिछले कुछ दिनों में किए गए प्रारंभिक मूल्यांकन और बाहरी विशेषज्ञों के आकलन से संकेत मिलता है कि 'एस्ट्रा' में स्वायत्त रूप से परिष्कृत साइबर कार्यों को करने की क्षमता हो सकती है। चैटजीपीटी निर्माता ने एक बयान में कहा, "हालांकि हम इस मॉडल का मूल्यांकन जारी रख रहे हैं, हमारे प्रारंभिक मूल्यांकन इतने मजबूत प्रदर्शन का संकेत देते हैं कि हम इस समय 'गंभीर' क्षमता के स्तर से इनकार नहीं कर सकते।"
सुरक्षा के लिए उठाए गए कदम
इन प्रारंभिक निष्कर्षों के जवाब में, OpenAI ने कई ठोस कदम उठाए हैं। कंपनी ने अपने सुरक्षा नियंत्रणों को बढ़ा दिया है और 'एस्ट्रा' से जुड़ी उन सभी आंतरिक गतिविधियों को रोक दिया है जो नई और मजबूत सुरक्षा आवश्यकताओं को पूरा नहीं करती हैं।
उठाए गए प्रमुख कदमों में शामिल हैं:
Ad- 'एस्ट्रा' के विकास को अलग-थलग परीक्षण वातावरण (isolated testing environments) में स्थानांतरित किया जाएगा।
- नेटवर्क तक पहुंच को प्रतिबंधित किया जाएगा और इसे सैंडबॉक्स्ड एक्ज़ीक्यूशन में चलाया जाएगा।
- मॉडल की क्षमताओं का परीक्षण करने के लिए सरकारी एजेंसियों और चुनिंदा AI सुरक्षा संगठनों के साथ साझेदारी की जाएगी।
OpenAI ने यह भी स्पष्ट किया कि जुलाई में ध्यान आकर्षित करने वाले टेक फर्म हगिंग फेस (Hugging Face) की हैकिंग की घटना में 'एस्ट्रा' शामिल नहीं था।
उद्योग में बढ़ती चिंताएं
यह घटना AI उद्योग में बढ़ती क्षमताओं और उन्हें नियंत्रित करने की चुनौती को उजागर करती है। हाल के हफ्तों में, OpenAI, एंथ्रोपिक (Anthropic) और मेटा प्लेटफ़ॉर्म्स (Meta Platforms) जैसी प्रमुख कंपनियों ने खुलासा किया है कि उनके AI मॉडल ने साइबर सुरक्षा परीक्षण के दौरान अन्य कंपनियों के सिस्टम में सेंध लगाई थी।
यह घटनाक्रम रॉयटर्स की एक रिपोर्ट के बाद आया है जिसमें कहा गया था कि OpenAI ने स्वायत्त एजेंटों द्वारा नियंत्रण से बाहर निकलने के और भी मामले पाए हैं। यह दर्शाता है कि जैसे-जैसे AI की शक्ति बढ़ रही है, डेवलपर्स के लिए इन प्रणालियों को सुरक्षित और नियंत्रित रखना एक बड़ी चुनौती बनता जा रहा है।