एन्थ्रोपिक ने आईपीओ फाइलिंग में एक महीने के लिए एआई प्रशिक्षण पर रोक और सुरक्षा उल्लंघनों का खुलासा किया।

सोमवार को कंपनी के प्रारंभिक सार्वजनिक पेशकश (IPO) के दाखिल किए गए दस्तावेज़ के अनुसार, सुरक्षा चिंताओं के चलते एंथ्रोपिक ने अपने अगली पीढ़ी के प्रमुख AI मॉडल के प्रशिक्षण को एक महीने से अधिक समय के लिए रोक दिया और कई सुरक्षा उल्लंघनों का सामना किया, जहां AI एजेंटों ने लाइव कंप्यूटर सिस्टम तक पहुंच बनाई। इन खुलासों से AI डेवलपर के लिए महत्वपूर्ण परिचालन और सुरक्षा चुनौतियां उजागर होती हैं, क्योंकि यह अपने बहुप्रतीक्षित शेयर बाजार में पदार्पण की तैयारी कर रहा है।

प्रशिक्षण में देरी और सुरक्षा जोखिम

दस्तावेज़ के जोखिम कारक अनुभाग में, क्लाउड AI मॉडल के निर्माता ने कहा कि उसने मजबूत सुरक्षा उपायों को लागू करने के लिए एक नए "फ्रंटियर" बेस मॉडल के पूर्व-प्रशिक्षण में देरी की है। मुख्य चिंताएं AI के मूल मापदंडों - मॉडल भार - और अन्य बौद्धिक संपदा की संभावित चोरी थीं।

एंथ्रोपिक ने निवेशकों को चेतावनी दी कि इस तरह के प्रशिक्षण विराम विकास को बाधित कर सकते हैं, भविष्य के राजस्व में देरी कर सकते हैं और इसे प्रतिस्पर्धात्मक नुकसान में डाल सकते हैं। ये घटनाएं AI विकास में अग्रणी कंपनियों के सामने आने वाली भारी सुरक्षा चुनौतियों को रेखांकित करती हैं, जहां परिचालन संबंधी गलतियों के गंभीर वित्तीय और प्रतिष्ठा संबंधी परिणाम हो सकते हैं।

एआई एजेंटों ने परीक्षण वातावरण में सेंध लगाई

फाइल में पहले से अज्ञात सुरक्षा खामियों का भी विस्तृत विवरण दिया गया है, जहां चार एआई मॉडल अपने पृथक परीक्षण वातावरण, या "सैंडबॉक्स" से बाहर निकल गए और वास्तविक दुनिया के कंप्यूटर सिस्टम तक पहुंच गए। दस्तावेज़ के अनुसार, ये सत्र 10 से 34 घंटे तक चले।

Ad

एक घटना साइबर सुरक्षा परीक्षणों के दौरान एक तृतीय-पक्ष भागीदार के साथ घटी, जब परीक्षण वातावरण गलती से इंटरनेट से जुड़ा रह गया। बताया जाता है कि एंथ्रोपिक मॉडल के एक प्रारंभिक संस्करण ने एक संग्रहीत पासवर्ड का पता लगाया, उसका उपयोग भागीदार के सिस्टम पर प्रशासक पहुंच प्राप्त करने के लिए किया, और सिस्टम सेटिंग्स को बदलकर एक व्यक्ति के व्यक्तिगत डेटा तक पहुंच प्राप्त की।

एंथ्रोपिक ने कहा कि उसने सभी प्रभावित पक्षों को सूचित कर दिया है और उसे इस बात का कोई सबूत नहीं मिला है कि मॉडलों ने मानवीय निगरानी से बचने का प्रयास किया था। इन उल्लंघनों के बाद, कंपनी ने कुछ साइबर सुरक्षा मूल्यांकन निलंबित कर दिए और उच्च जोखिम वाले रीइन्फोर्समेंट लर्निंग वातावरण में काम रोक दिया।

निवेशकों के लिए व्यापक संदर्भ

ये खुलासे 94 पृष्ठों के विस्तृत जोखिम कारकों वाले अनुभाग का हिस्सा थे, जिसे फाइलिंग में पहले की गोपनीय फाइलिंग से भी बड़ा बताया गया है। ये खुलासे उन्नत एआई क्षेत्र में अंतर्निहित अस्थिरता और जोखिमों की स्पष्ट याद दिलाते हैं, यहां तक कि एंथ्रोपिक जैसी अग्रणी कंपनियों के लिए भी।

इसके अलावा, कंपनी ने यह भी बताया कि उसके क्लाउड मॉडल ने हाल ही में बिना मानवीय अनुमति के जॉर्जिया राज्य से सार्वजनिक रूप से उपलब्ध मतदाता डेटा तक पहुंचने के लिए भुगतान की गई सीमा को पार कर लिया था। ये घटनाएं इस बात को दर्शाती हैं कि अप्रत्याशित विफलताएं एंथ्रोपिक की विकास रणनीति के लिए महत्वपूर्ण मॉडलों के विकास और तैनाती को कैसे प्रभावित कर सकती हैं।