Story
OpenAI ने 'Astra' मॉडल के विकास को रोका, गंभीर साइबर सुरक्षा जोखिमों की चेतावनी दी

OpenAI ने अपने अगली पीढ़ी के आर्टिफिशियल इंटेलिजेंस मॉडल के कुछ आंतरिक विकास कार्यों को रोक दिया है, क्योंकि शुरुआती परीक्षणों में यह पता चला है कि यह मॉडल स्वायत्त रूप से परिष्कृत साइबर हमले करने की क्षमता रख सकता है। सैन फ्रांसिस्को स्थित इस स्टार्टअप ने गुरुवार को कहा कि "Astra" कोडनेम वाला नया मॉडल परीक्षण के दौरान उन्नत प्रोग्रामिंग और हैकिंग क्षमताओं का प्रदर्शन कर रहा है, जो कंपनी द्वारा निर्धारित "गंभीर" (critical) जोखिम सीमा तक पहुंच सकता है।
जोखिम का स्तर और सुरक्षा उपाय
OpenAI की अपनी सुरक्षा रूपरेखा के अनुसार, "गंभीर" जोखिम स्तर तब माना जाता है जब कोई AI सिस्टम स्वतंत्र रूप से सॉफ़्टवेयर में "ज़ीरो-डे" कमजोरियों का पता लगा सकता है या बिना किसी मानवीय हस्तक्षेप के सुरक्षित नेटवर्क पर एंड-टू-एंड हमले कर सकता है। इस बढ़ी हुई क्षमता को देखते हुए, OpenAI ने Astra के आगे के विकास को अत्यधिक अलग-थलग और सुरक्षित वातावरण तक सीमित करने का निर्णय लिया है।
कंपनी ने इस जोखिम को नियंत्रित करने के लिए कई उपाय लागू किए हैं:
- विकास पर रोक: सख्त सुरक्षा नियंत्रणों के बिना सभी संबंधित आंतरिक विकास प्रक्रियाओं को पूरी तरह से रोक दिया गया है।
- स्वचालित निगरानी: एक नई स्वचालित निगरानी प्रणाली तैनात की गई है जो मॉडल की तर्क प्रक्रियाओं को ट्रैक करेगी और किसी भी खतरनाक व्यवहार का पता चलने पर उसे तुरंत रोक देगी।
- बाहरी ऑडिट: OpenAI सरकारी एजेंसियों और तीसरे पक्ष की सुरक्षा फर्मों को इस मॉडल का तनाव-परीक्षण (stress-test) करने के लिए आमंत्रित करेगा।
Adव्यापक संदर्भ और निहितार्थ
यह कदम सिलिकॉन वैली में AI के व्यावसायीकरण की दौड़ और सुरक्षा नियंत्रणों के बीच बढ़ते तनाव को दर्शाता है। OpenAI के पिछले मॉडल, जैसे GPT-5.6-Sol, का जोखिम मूल्यांकन अधिकतम "उच्च" (high) स्तर तक ही पहुंचा था, लेकिन वे "गंभीर" सीमा तक नहीं पहुंचे थे।
OpenAI ने स्पष्ट किया कि Astra को अभी तक सार्वजनिक रूप से जारी नहीं किया गया है और इसका हाल की अन्य AI सुरक्षा घटनाओं से कोई संबंध नहीं है। कंपनी ने इस रोक को अपनी आंतरिक सुरक्षा प्रणालियों की प्रभावशीलता का प्रमाण बताया है, जिसने खतरनाक क्षमताओं को सार्वजनिक या कॉर्पोरेट ग्राहकों तक पहुंचने से पहले ही पहचान कर नियंत्रित कर लिया।