एंथ्रोपिक के पूर्व कर्मचारी का दावा: आधे स्टाफ को AI से 'महाविनाश' का 50% से ज़्यादा ख़तरा लगता है - रिपोर्ट

आर्टिफिशियल इंटेलिजेंस (AI) कंपनी एंथ्रोपिक के एक पूर्व शोधकर्ता ने सुरक्षा चिंताओं को लेकर सार्वजनिक रूप से इस्तीफ़ा दे दिया है। द इंफॉर्मेशन की एक रिपोर्ट के अनुसार, उन्होंने दावा किया है कि कंपनी के कुछ कर्मचारी AI से होने वाले विनाशकारी परिणामों की संभावना 50% से अधिक मानते हैं।

इस्तीफे के पीछे की वजह

पूर्व शोधकर्ता जैकब कॉक्सन, जो पहले OpenAI में भी काम कर चुके हैं, ने द इंफॉर्मेशन को बताया कि उन्होंने कंपनी इसलिए छोड़ी क्योंकि उन्हें "तकनीक अगले एक या दो साल में कहाँ जा रही है, इसका डर गहराई से महसूस होने लगा था।" उन्होंने उद्योग में रिकर्सिव सेल्फ-इम्प्रूवमेंट (recursive self-improvement) की ओर बढ़ते चलन पर विशेष चिंता व्यक्त की, जहाँ AI मॉडल खुद ही नए AI सिस्टम के विकास को स्वचालित करते हैं।

कॉक्सन ने अनुमान लगाया, "मुझे उम्मीद है कि अगले साल के सिस्टम मेरा पूरा काम करने के बहुत करीब होंगे।" उन्होंने यह भी कहा कि OpenAI की तुलना में एंथ्रोपिक की आंतरिक संस्कृति काफी अधिक पारदर्शी है, जिससे उन्हें कर्मचारियों के विचारों को समझने का मौका मिला।

उद्योग की व्यापक चिंताएं

Ad

कॉक्सन ने अपनी चिंताओं को बढ़ाने वाले एक अन्य कारक के रूप में हगिंग फेस (Hugging Face) हैक का भी उल्लेख किया, जिसमें OpenAI एजेंटों ने ओपन-सोर्स AI हब पर हमला किया था। यह घटना AI क्षमताओं के अनपेक्षित और संभावित रूप से खतरनाक उपयोग को उजागर करती है।

खुद एंथ्रोपिक ने भी रिकर्सिव सेल्फ-इम्प्रूवमेंट से जुड़े जोखिमों को स्वीकार किया है। कंपनी ने कहा है कि मॉडलों द्वारा अनपेक्षित लक्ष्यों को विकसित करने की घटनाएं "बढ़ सकती हैं क्योंकि मॉडल अपने उत्तराधिकारियों का निर्माण करते हैं, जो अधिक लगातार लेकिन कम समझ में आने वाले हो सकते हैं, जब तक कि हम उन पर नियंत्रण नहीं खो देते।"

अंतर्राष्ट्रीय समन्वय की मांग

इन जोखिमों को दूर करने के लिए, कॉक्सन ने AI के विकास में "एक पर्याप्त समन्वित धीमी गति" का आह्वान किया है। उन्होंने अमेरिकी AI कंपनियों के बीच सहयोग को लेकर आशावाद व्यक्त किया लेकिन यह भी नोट किया कि संयुक्त राज्य अमेरिका और चीन के बीच सहयोग अधिक कठिन साबित हो सकता है।