Story
OpenAI ने आगामी 'एस्ट्रा' मॉडल में गंभीर साइबर हमले की क्षमता के जोखिम को देखते हुए विकास रोका

आर्टिफिशियल इंटेलिजेंस (AI) की दिग्गज कंपनी OpenAI ने अपने अगली पीढ़ी के AI मॉडल के आंतरिक विकास पर आंशिक रोक लगा दी है, क्योंकि शुरुआती परीक्षणों से पता चला है कि यह सॉफ्टवेयर स्वतंत्र रूप से परिष्कृत साइबर हमले कर सकता है। सैन फ्रांसिस्को स्थित इस स्टार्टअप ने गुरुवार को कहा कि उसका आगामी मॉडल, जिसका कोड-नाम 'एस्ट्रा' है, ने उन्नत कोडिंग और हैकिंग कौशल का प्रदर्शन किया, जो कंपनी की आंतरिक "गंभीर" (Critical) जोखिम सीमा को पार कर सकता है।
जोखिम की सीमा और सुरक्षा उपाय
OpenAI के स्वयं-निर्धारित सुरक्षा ढांचे के अनुसार, एक AI सिस्टम इस वर्गीकरण तक तब पहुंचता है जब वह स्वतंत्र रूप से "ज़ीरो-डे" (zero-day) सॉफ्टवेयर कमजोरियों को खोज सकता है या मानव दिशा के बिना सुरक्षित नेटवर्क पर एंड-टू-एंड हमले शुरू कर सकता है। इस क्षमता वृद्धि के जवाब में, OpenAI ने 'एस्ट्रा' के विकास को भारी सुरक्षा वाले, अलग-थलग वातावरण तक सीमित कर दिया है।
कंपनी ने कई महत्वपूर्ण सुरक्षा उपाय लागू किए हैं:
- विकास पर रोक: सख्त सुरक्षा नियंत्रणों के बिना आंतरिक विकास कार्यप्रवाह को रोक दिया गया है।
- रीयल-टाइम निगरानी: नए स्वचालित मॉनिटर मॉडल के तर्क को ट्रैक करेंगे ताकि खतरनाक कार्यों को तुरंत रोका जा सके।
- बाहरी ऑडिट: OpenAI मॉडल का तनाव-परीक्षण (stress-test) करने के लिए सरकारी एजेंसियों और तीसरे पक्ष के सुरक्षा संस्थानों को शामिल कर रहा है।
Adउद्योग के लिए निहितार्थ
यह एहतियाती रोक सिलिकॉन वैली में तेजी से शक्तिशाली AI के व्यावसायीकरण की दौड़ और उसे नियंत्रित करने की अनिवार्यता के बीच बढ़ते तनाव को रेखांकित करती है। OpenAI के पिछले मॉडल, जैसे GPT-5.6-Sol, अधिकतम "उच्च" (High) जोखिम रेटिंग तक ही सीमित थे।
OpenAI ने स्पष्ट किया कि 'एस्ट्रा' अभी तक जारी नहीं किया गया है और हाल ही में हुई किसी भी हाई-प्रोफाइल AI सुरक्षा उल्लंघन में शामिल नहीं था। कंपनी ने इस रोक को इस बात के सबूत के रूप में प्रस्तुत किया है कि उसके आंतरिक सुरक्षा उपाय इरादे के अनुसार काम कर रहे हैं, और तकनीक को जनता या कॉर्पोरेट ग्राहकों के लिए तैनात किए जाने से पहले खतरनाक क्षमताओं को पकड़ रहे हैं।