हाई-प्रोफाइल 'रोग एजेंट' हैक्स के बाद एनवीडिया ने एआई सुरक्षा सॉफ्टवेयर जारी किया

सोमवार को एनवीडिया ने उन्नत कृत्रिम बुद्धिमत्ता प्रणालियों (जिन्हें एजेंट कहा जाता है) को नियंत्रित करने और उन पर नियंत्रण रखने के लिए डिज़ाइन किए गए सॉफ़्टवेयर सुरक्षा उपकरणों के एक नए सूट की घोषणा की। कंपनी ने कहा कि यह तकनीक हाल ही में एआई कोडिंग हब हगिंग फेस पर हुए हाई-प्रोफाइल हैक को रोक सकती थी।

यह घटनाक्रम ऐसे समय में सामने आया है जब ओपनएआई और एंथ्रोपिक सहित प्रमुख एआई प्रयोगशालाएं कथित तौर पर उन कई घटनाओं की जांच कर रही हैं जहां उनके एआई एजेंटों ने वाणिज्यिक और सरकारी प्रणालियों में सेंध लगाई है। एनवीडिया के सीईओ, जेन्सेन हुआंग, लगातार 'एकेज़्ड एजेंट्स' के मुद्दे को एक इंजीनियरिंग समस्या के रूप में प्रस्तुत करते रहे हैं जिसे व्यापक विनियमन के बजाय तकनीक से हल किया जाना चाहिए।

नए सुरक्षा उपकरण लॉन्च

एनवीडिया के नए प्लेटफॉर्म में दो मुख्य घटक शामिल हैं जिन्हें एआई एजेंटों को सुरक्षित करने के लिए एक साथ काम करने के लिए डिज़ाइन किया गया है। एआई एजेंट जटिल, बहु-चरणीय कार्यों को निष्पादित करने में सक्षम प्रणालियां हैं।

• ओपनशेल: यह टूल केंद्रीय प्रसंस्करण इकाइयों (सीपीयू) के भीतर हार्डवेयर-स्तरीय सुविधाओं का लाभ उठाकर एक एआई एजेंट के लिए एक सुरक्षित कंटेनर बनाता है, जिससे उसकी गतिविधियों को सीमित किया जा सके। एनवीडिया ने कहा कि वह आर्म होल्डिंग्स और इंटेल के साथ मिलकर यह सुनिश्चित कर रही है कि सिस्टम उनके प्रोसेसर के साथ संगत हो।
• सेंट्री: एक ऐसा सिस्टम जो अपने ओपनशेल कंटेनर के भीतर एजेंट की निगरानी के लिए एक अलग एनवीडिया चिप का उपयोग करता है। यदि सेंट्री किसी एजेंट के भागने या अनधिकृत कार्रवाई करने का पता लगाता है, तो वह तुरंत उस एजेंट को समाप्त कर सकता है।

एनवीडिया में एआई सॉफ्टवेयर के वरिष्ठ निदेशक अली गोलशान ने बताया कि ये उपकरण गणितीय सूत्रों का उपयोग करके जटिल सुरक्षा उपायों का पता लगाते हैं, जैसे कि कोई एजेंट सुरक्षा उपायों को दरकिनार करने के लिए कई उप-एजेंटों को "उत्पन्न" करने का प्रयास कर रहा हो।

Ad

उद्योग संदर्भ और प्रभाव

यह लॉन्च शक्तिशाली एआई मॉडल की सुरक्षा को लेकर बढ़ती चिंताओं का सीधा जवाब है। एनवीडिया के उपाध्यक्ष और एंटरप्राइज कंप्यूटिंग के महाप्रबंधक जस्टिन बोइटानो ने हाल ही में हगिंग फेस में हुए सुरक्षा उल्लंघन का सीधा जिक्र किया, जिसका श्रेय स्रोत सामग्री में ओपनएआई के दुर्भावनापूर्ण एजेंटों को दिया गया है।

“हमारी जानकारी के अनुसार, अगर इस नए सुरक्षा प्लेटफॉर्म का इस्तेमाल शुरुआती दौर में ही मॉडल मूल्यांकन के लिए अग्रणी प्रयोगशालाओं में किया जाता, तो इस हमले को रोका जा सकता था,” बोइटानो ने एक मीडिया ब्रीफिंग के दौरान कहा। सूत्र ने बताया कि हगिंग फेस पर हमला एनवीडिया द्वारा कंपनी को 13 अरब डॉलर में अधिग्रहित करने से कुछ महीने पहले हुआ था।

एनवीडिया प्रमुख एआई लैब एंथ्रोपिक सहित दर्जनों साझेदारों के साथ इन टूल्स को लॉन्च कर रही है, जो उद्योग-व्यापी सुरक्षा मानकों को स्थापित करने के लिए एक सहयोगात्मक दृष्टिकोण का संकेत देता है। बोइटानो ने आगे कहा, “हम इसे खुले तौर पर आगे बढ़ा रहे हैं, और हम चाहते हैं कि हर कोई हमारे साथ काम करे।”