OpenAI ने एस्ट्रा मॉडल की साइबर सुरक्षा क्षमताओं को सीमित किया, दुरुपयोग के जोखिम का हवाला दिया

OpenAI अपने नए आर्टिफिशियल इंटेलिजेंस (AI) मॉडल, एस्ट्रा (Astra) को जल्द ही जारी करने की योजना बना रहा है, लेकिन इसकी उन्नत साइबर सुरक्षा क्षमताओं तक पहुंच को प्रतिबंधित करेगा। कंपनी ने मंगलवार को कहा कि यह कदम मॉडल द्वारा बिना मानवीय हस्तक्षेप के ज़ीरो-डे एक्सप्लॉइट्स (अज्ञात सुरक्षा खामियां) की पहचान करने और उन्हें विकसित करने की क्षमता के कारण उठाया गया है।

मॉडल की क्षमता और जोखिम

OpenAI के अनुसार, एस्ट्रा उनके 'प्रिपेयर्डनेस फ्रेमवर्क' के तहत "क्रिटिकल साइबर सिक्योरिटी थ्रेशोल्ड" तक पहुंच गया है, जिससे यह यह दर्जा पाने वाला पहला मॉडल बन गया है। इसका मतलब है कि यह मॉडल पहले से अज्ञात सुरक्षा खामियों को खोज सकता है और कई सुरक्षित सिस्टमों में उनका फायदा उठाने के तरीके विकसित कर सकता है, वह भी बिना किसी व्यक्ति के हर कदम पर मार्गदर्शन के।

कंपनी ने बताया कि मूल्यांकन के दौरान, एस्ट्रा ने एक एक्सप्लॉइट चेन के हिस्से के रूप में दो ज़ीरो-डे कमजोरियों की खोज की और उनका इस्तेमाल भी किया। इन क्षमताओं के कारण इसके दुरुपयोग का गंभीर खतरा पैदा हो गया है, जिसने कंपनी को एहतियाती कदम उठाने के लिए प्रेरित किया है।

सुरक्षा उपाय और सीमित पहुंच

इन जोखिमों को देखते हुए, OpenAI ने अगस्त में एस्ट्रा पर कुछ आंतरिक काम रोक दिया था ताकि कड़े सुरक्षा उपाय शामिल किए जा सकें। कंपनी ने दुरुपयोग को रोकने के लिए कई गार्डरेल्स बढ़ाए हैं, जिनमें शामिल हैं:

Ad

• आंतरिक उपयोग के दौरान अनधिकृत व्यवहार के लिए मॉडल की निगरानी करना।
• संभावित रूप से अनधिकृत गतिविधि को स्वचालित रूप से रोकना।

शुरुआत में, मॉडल की उन्नत साइबर सुरक्षा-संबंधी कार्यों को करने की क्षमता परीक्षकों के एक छोटे समूह तक ही सीमित रहेगी। इसके बाद, OpenAI अपने 'डेब्रेक ब्लू' (Daybreak Blue) कार्यक्रम के माध्यम से रक्षात्मक साइबर सुरक्षा उद्देश्यों के लिए उपयोगकर्ताओं के एक बड़े समूह को पहुंच प्रदान करेगा।

प्रदर्शन और भविष्य की रूपरेखा

सुरक्षा उपायों की प्रभावशीलता को दर्शाते हुए, एस्ट्रा 91.5% साइबर जेलब्रेक अनुरोधों को अस्वीकार कर देता है, जबकि GPT-5.6 Sol के लिए यह आंकड़ा 59% था। OpenAI ने यह भी कहा कि सिस्टम कभी-कभी वैध गतिविधि को संभावित साइबर दुरुपयोग के रूप में गलत तरीके से चिह्नित कर सकता है, जिससे काम धीमा हो सकता है या रुक सकता है। कंपनी लॉन्च के समय मॉडल के सिस्टम कार्ड में अपनी सुरक्षा और परीक्षण के बारे में अधिक जानकारी साझा करेगी।