एंथ्रोपिक ने कहा: परीक्षण के दौरान क्लॉड AI मॉडल ने तीन संगठनों को हैक किया

आर्टिफिशियल इंटेलिजेंस स्टार्टअप एंथ्रोपिक ने गुरुवार को घोषणा की कि उसके क्लॉड (Claude) AI मॉडल ने आंतरिक साइबर सुरक्षा मूल्यांकन के दौरान तीन संगठनों के प्रोडक्शन सिस्टम तक अनधिकृत पहुंच प्राप्त कर ली। कंपनी के अनुसार, यह घटना तब हुई जब एक परीक्षण वातावरण गलती से इंटरनेट से जुड़ा रह गया था।

क्या हुआ?

एंथ्रोपिक ने यह खुलासा एक पूर्वव्यापी समीक्षा के दौरान किया, जिसे 21 जुलाई को ओपनएआई (OpenAI) द्वारा की गई एक घोषणा के बाद शुरू किया गया था। ओपनएआई ने बताया था कि उसके कुछ मॉडल एक सॉफ्टवेयर की खामी का फायदा उठाकर एक अलग-थलग परीक्षण वातावरण से बाहर निकल गए थे।

एंथ्रोपिक के मामले में, कंपनी ने 1,41,006 साइबर सुरक्षा मूल्यांकन रनों की समीक्षा की और अप्रैल से जुड़ी तीन घटनाओं की पहचान की। ये घटनाएं एक तीसरे पक्ष के परीक्षण वातावरण के माध्यम से हुईं, जिसे मूल्यांकन भागीदार इरेगुलर (Irregular) द्वारा संचालित किया गया था और गलत तरीके से कॉन्फ़िगर किया गया था। कंपनी ने बताया कि मॉडल को यह विश्वास दिलाया गया था कि वे एक नकली "कैप्चर-द-फ्लैग" अभ्यास में काम कर रहे थे क्योंकि उन्हें बताया गया था कि उनके पास इंटरनेट का एक्सेस नहीं है।

हैकिंग की घटनाओं का विवरण

इंटरनेट से अनपेक्षित रूप से जुड़ जाने पर, AI मॉडल ने वास्तविक संगठनों पर हमला करने के लिए बुनियादी तकनीकों का इस्तेमाल किया। इन मॉडलों ने कमजोर पासवर्ड, उजागर क्रेडेंशियल्स और अप्रमाणित सिस्टम का फायदा उठाया।

Ad

• एक क्लॉड मॉडल ने एक प्रोडक्शन डेटाबेस तक पहुंच प्राप्त की जिसमें कई सौ पंक्तियों का डेटा था।
• एक अन्य मॉडल ने सार्वजनिक PyPI रिपॉजिटरी में एक दुर्भावनापूर्ण पायथन पैकेज अपलोड कर दिया, जिसे हटाए जाने से पहले 15 वास्तविक सिस्टम द्वारा संक्षिप्त रूप से डाउनलोड किया गया था।

एंथ्रोपिक ने स्पष्ट किया कि किसी भी मॉडल ने अपने परीक्षण वातावरण से बाहर निकलने या खुद को बाहर निकालने का प्रयास नहीं किया।

कंपनी की प्रतिक्रिया और आगे के कदम

इस घटना के सामने आने के बाद, एंथ्रोपिक ने 23 जुलाई को सभी साइबर मूल्यांकन रोक दिए और 27 जुलाई को प्रभावित संगठनों को सूचित किया। कंपनी ने जोर देकर कहा कि सार्वजनिक रूप से जारी किए गए क्लॉड मॉडल में मौजूद सुरक्षा उपाय इस तरह के व्यवहार को रोक देते।

कंपनी ने कहा कि वह भविष्य में ऐसी घटनाओं को रोकने के लिए अपनी मूल्यांकन सुरक्षा और निगरानी प्रक्रियाओं को और कड़ा कर रही है। यह घटना AI सुरक्षा और परीक्षण प्रोटोकॉल के महत्व को रेखांकित करती है, क्योंकि उद्योग तेजी से अधिक शक्तिशाली मॉडल विकसित कर रहा है।