AI का बढ़ता खतरा: शीर्ष अधिकारी क्यों विकास रोकने की मांग कर रहे हैं?

अमेरिका की प्रमुख AI प्रयोगशालाओं के प्रमुखों ने एक दुर्लभ एकजुटता दिखाते हुए आर्टिफिशियल इंटेलिजेंस (AI) के विकास पर रोक लगाने का आह्वान किया है। उन्होंने चेतावनी दी है कि यह तकनीक जल्द ही खुद को बेहतर बनाने में सक्षम हो सकती है और मानव नियंत्रण से बाहर निकल सकती है।

OpenAI के सैम ऑल्टमैन, Anthropic के डारियो अमोदेई और xAI के एलन मस्क जैसे प्रतिस्पर्धियों की यह टिप्पणी दिखाती है कि AI कितनी तेजी से आगे बढ़ा है। यह चिंता अब 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' (recursive self-improvement) नामक एक महत्वपूर्ण मील के पत्थर के करीब पहुंच रही है।

रिकर्सिव सेल्फ-इम्प्रूवमेंट का क्या मतलब है?

AI अनुसंधान का अंतिम लक्ष्य एक ऐसी प्रणाली बनाना है जो इंसानों की मदद के बिना या बहुत कम मदद से खुद को बेहतर बना सके। इस प्रक्रिया को रिकर्सिव सेल्फ-इम्प्रूवमेंट (RSI) कहा जाता है, जहाँ हर सुधार अगले सुधार को और तेज करने में मदद करता है।

यह चिंता इसलिए बढ़ गई है क्योंकि विशेषज्ञों का मानना है कि RSI अब पहुंच के भीतर है, कुछ AI अधिकारी इसे तीन से पांच साल दूर बता रहे हैं। Anthropic के एलाइनमेंट साइंस लीड, इवान हबिंगर ने चेतावनी दी है कि अगले दशक के भीतर मानवता के लिए विनाशकारी घटना की 10% से अधिक संभावना है। हाल की घटनाओं में, AI एजेंटों द्वारा वेबसाइटों और AI रिपॉजिटरी में सेंध लगाने की भी खबरें आई हैं, जिसने इस तात्कालिकता को और बढ़ा दिया है।

बाज़ार और विकास पर प्रभाव

Ad

AI के विकास को रोकने की इन मांगों का वित्तीय बाज़ारों पर तत्काल असर दिखा है, जहाँ AI से संबंधित शेयरों में गिरावट दर्ज की गई। चिप निर्माता, क्लाउड प्रदाता और डेटा सेंटर ऑपरेटरों ने अपनी वृद्धि को AI पर केंद्रित किया है, और किसी भी मंदी से उनके राजस्व को खतरा है।

हालांकि, कुछ विश्लेषकों का मानना है कि नई प्रशिक्षण आवश्यकताओं के बिना भी, मौजूदा मांग Nvidia जैसी कंपनियों के लिए विकास को बनाए रख सकती है। इस बीच, कुछ आलोचक इन चेतावनियों के पीछे के इरादों पर सवाल उठाते हैं। उनका सुझाव है कि यह छोटे प्रतिस्पर्धियों के लिए लागत बढ़ाने वाले नियमों को लागू करने का एक प्रयास हो सकता है, जिसे "रेगुलेटरी कैप्चर" (regulatory capture) कहा जाता है।

विकास क्यों नहीं रुक रहा है?

कई शोधकर्ता इस स्थिति को एक क्लासिक "प्रिजनर्स डिलेमा" (prisoner's dilemma) के रूप में वर्णित करते हैं। जो कंपनियाँ जोखिमों को मानती हैं, वे भी प्रतिस्पर्धियों से पीछे रहने का जोखिम नहीं उठा सकतीं।

इसके अलावा, वित्तीय दांव भी बहुत बड़े हैं। OpenAI और Anthropic दोनों ही खरबों डॉलर के मूल्यांकन पर IPO लाने की तैयारी कर रहे हैं, जो उनके अगले मॉडल के वादे पर निर्भर करता है। साथ ही, अमेरिकी प्रशासन भी इस दौड़ को धीमा करने का इच्छुक नहीं है, क्योंकि उसे डर है कि किसी भी तरह की रोक चीन को इस महत्वपूर्ण तकनीक में बढ़त हासिल करने का मौका दे देगी।