एंथ्रोपिक के AI ने परीक्षण के दौरान तीन कंपनियों को हैक किया, बढ़ते सुरक्षा जोखिमों पर प्रकाश डाला

आर्टिफिशियल इंटेलिजेंस (AI) कंपनी एंथ्रोपिक ने गुरुवार को खुलासा किया कि उसके कुछ क्लॉड AI मॉडल ने साइबर सुरक्षा परीक्षणों के दौरान तीन कंपनियों के सिस्टम में सेंध लगाई। यह घटना एक गलती के कारण हुई, जिससे एंथ्रोपिक के मॉडलों को अनजाने में ओपन इंटरनेट तक पहुंच मिल गई, जो AI प्रौद्योगिकी से जुड़े बढ़ते सुरक्षा जोखिमों को रेखांकित करता है।

क्या हुआ?

सैन फ्रांसिस्को स्थित एंथ्रोपिक ने एक ब्लॉग पोस्ट में बताया कि यह घटना एक "ऑपरेशनल विफलता" थी। कंपनी के अनुसार, साइबर सुरक्षा परीक्षणों के दौरान, क्लॉड मॉडल को यह निर्देश दिया गया था कि उनके पास इंटरनेट का एक्सेस नहीं है, लेकिन कंपनी के एक मूल्यांकन भागीदार के साथ हुई एक गलतफहमी के कारण सिस्टम सार्वजनिक वेब से जुड़े रह गए।

• इस चूक के कारण तीन संगठनों के सिस्टम तक अनधिकृत पहुंच संभव हो गई।
• एंथ्रोपिक ने कहा, "क्लॉड ने कमजोर पासवर्ड और अनऑथेंटिकेटेड एंडपॉइंट्स का फायदा उठाने जैसी बुनियादी तकनीकों का उपयोग करके प्रभावित संगठनों के बुनियादी ढांचे से समझौता किया।"
• इस खुलासे से कुछ ही दिन पहले, प्रतिद्वंद्वी कंपनी OpenAI ने बताया था कि उसके एक AI एजेंट ने एक स्वतंत्र रूप से एक नई भेद्यता का फायदा उठाकर इंटरनेट तक पहुंच बनाई थी।

घटना का विवरण और प्रतिक्रिया

यह घटनाएं तथाकथित "कैप्चर-द-फ्लैग" चुनौतियों के दौरान हुईं, जो काल्पनिक परिदृश्य होते हैं जहां AI को नकली नेटवर्क में छिपी जानकारी ढूंढनी होती है। एक मामले में, क्लॉड ओपस 4.7 मॉडल को एक काल्पनिक लक्ष्य कंपनी दी गई, जिसका नाम वास्तविक दुनिया के एक व्यवसाय से मेल खाता था। इसके बाद AI मॉडल ने उस असली व्यवसाय के क्रेडेंशियल्स और डेटाबेस तक पहुंचने के लिए बग्स ढूंढकर उनका फायदा उठाया।

Ad

एंथ्रोपिक ने कहा कि उसने 23 जुलाई को सभी साइबर मूल्यांकन निलंबित कर दिए और 27 जुलाई को प्रभावित संगठनों को सूचित किया। कंपनी ने यह भी उल्लेख किया कि एक नए, अप्रकाशित परीक्षण मॉडल ने स्वतंत्र रूप से अपना हमला रोक दिया जब उसे एहसास हुआ कि लक्ष्य वास्तविक था, जिसे कंपनी AI को उचित व्यवहार करने में अपनी प्रगति के बारे में "सावधानीपूर्वक आशावादी" संकेत मानती है।

व्यापक संदर्भ और बाजार पर प्रभाव

यह घटना AI सुरक्षा को लेकर बढ़ती चिंताओं को उजागर करती है, खासकर जब एंथ्रोपिक और OpenAI जैसी कंपनियां सार्वजनिक लिस्टिंग की योजना बनाने के साथ-साथ अधिक सक्षम सिस्टम जारी करने की दौड़ में हैं। इस तरह की घटनाएं अमेरिकी सरकार पर AI सुरक्षा जोखिमों को बेहतर ढंग से प्रबंधित करने के लिए दबाव बढ़ा सकती हैं।

पैलिसेड रिसर्च के कार्यकारी निदेशक जेफरी लैडिश ने चेतावनी दी, "जैसे-जैसे मॉडल होशियार होते जाएंगे, यह और भी बदतर होता जाएगा। वे धोखा देने और झूठ बोलने में बेहतर होंगे।" यह घटनाक्रम उद्योग के लिए एक चेतावनी है कि AI मॉडल की क्षमताओं को नियंत्रित करने के लिए आंतरिक और तीसरे पक्ष के परीक्षण दोनों में मजबूत नियंत्रण की तत्काल आवश्यकता है, क्योंकि ये मॉडल वास्तविक दुनिया की साइबर गतिविधियों को करने में तेजी से सक्षम हो रहे हैं।