OpenAI के मुख्य वैज्ञानिक की चेतावनी: AI के 'आत्म-सुधार' का दौर करीब, उद्योग में सुरक्षा और रफ्तार पर बहस तेज

OpenAI के मुख्य वैज्ञानिक Jakub Pachocki ने एक गंभीर चेतावनी जारी की है, जिसमें कहा गया है कि आर्टिफिशियल इंटेलिजेंस (AI) तेजी से विकसित हो रहा है और जल्द ही यह बिना किसी मानवीय हस्तक्षेप के खुद को बेहतर बनाने की क्षमता हासिल कर सकता है। उन्होंने अनुमान लगाया कि सुरक्षा चिंताओं के कारण AI प्रयोगशालाएं स्वेच्छा से अपनी विकास प्रक्रियाओं को धीमा कर देंगी।

"रिकर्सिव सेल्फ-इम्प्रूवमेंट" का खतरा

Pachocki ने अपने एक हालिया बयान में बताया कि AI मॉडल अब कंप्यूटर को नियंत्रित करने, मनुष्यों और अन्य AI सिस्टम के साथ सहयोग करने और अनुसंधान परियोजनाओं को संचालित करने में सक्षम हो गए हैं। उन्होंने इस प्रक्रिया को "रिकर्सिव सेल्फ-इम्प्रूवमेंट" (पुनरावर्ती आत्म-सुधार) का नाम दिया, जिसे सामान्य कृत्रिम बुद्धिमत्ता (AGI) तक पहुंचने का एक महत्वपूर्ण मार्ग माना जाता है। इसकी आत्म-त्वरित प्रकृति एक "इंटेलिजेंस एक्सप्लोजन" को जन्म दे सकती है।

Pachocki ने लिखा, "यह अत्यधिक सावधानी बरतने का क्षण है।" उन्होंने चिंता व्यक्त की कि मशीनी बुद्धिमत्ता में लगातार हो रही तेज वृद्धि के परिणामों से निपटने के लिए कोई भी वास्तव में तैयार नहीं है। उन्होंने सुझाव दिया कि डेवलपर्स या तो AI को मानवीय हितों के साथ बेहतर ढंग से संरेखित करें या "आवश्यकता पड़ने पर भविष्य के विकास की गति को धीमा कर दें।"

उद्योग में विरोधाभास: चिंता और प्रतिस्पर्धा

Pachocki की चेतावनी AI उद्योग के भीतर एक बड़े विरोधाभास को दर्शाती है। एक ओर, कई शीर्ष अधिकारी इसके खतरों के बारे में आगाह कर रहे हैं, वहीं दूसरी ओर, बड़ी टेक कंपनियां और स्टार्टअप्स अधिक शक्तिशाली मॉडल बनाने की होड़ में लगे हुए हैं।

• Anthropic के सीईओ Dario Amodei ने चेतावनी दी थी कि AI आधे से अधिक शुरुआती स्तर की नौकरियों की जगह ले सकता है।
• सॉफ्टबैंक ग्रुप के सीईओ मासायोशी सोन ने OpenAI के साथ बातचीत के बाद अपने पूर्वानुमान को संशोधित करते हुए कहा कि सुपरइंटेलिजेंस दो साल के भीतर आ सकती है।
• इसके विपरीत, Nvidia के सीईओ जेन्सेन हुआंग ने OpenAI के नवीनतम मॉडल के जवाब में घोषणा की कि "AGI का युग आ चुका है।"

Ad

यह विरोधाभास इस बात को रेखांकित करता है कि जहां सुरक्षा एक प्रमुख चिंता है, वहीं बाजार में बढ़त हासिल करने का दबाव भी उतना ही शक्तिशाली है। OpenAI ने खुद अपने GPT-6 Astra मॉडल की रिलीज को उसकी उन्नत साइबर सुरक्षा क्षमताओं के कारण सीमित कर दिया है, और Anthropic ने भी अपने Mythos मॉडल को इसी तरह के कारणों से सार्वजनिक नहीं किया है।

निवेश और विकास की तेज रफ्तार

चेतावनी के बावजूद, "रिकर्सिव सेल्फ-इम्प्रूवमेंट" के क्षेत्र में निवेश तेजी से बढ़ रहा है। निवेशक इसे सही मायने में मानव-जैसी या उससे भी बेहतर बुद्धिमत्ता वाले AI तक पहुंचने का रास्ता मान रहे हैं।

• Inherent, जो पूर्व DeepMind शोधकर्ताओं द्वारा स्थापित एक कंपनी है, ने इस साल की शुरुआत में $50 मिलियन जुटाए।
• प्रसिद्ध वैज्ञानिक रिचर्ड सोचर की AI प्रयोगशाला, Recursive Superintelligence, इसी क्षेत्र में काम कर रही है और $650 मिलियन की फंडिंग हासिल कर चुकी है।

विडंबना यह है कि Pachocki की अपनी कंपनी, OpenAI, ने भी दो साल के भीतर एक "वास्तविक स्वचालित AI शोधकर्ता" बनाने का लक्ष्य रखा है। यह स्थिति निवेशकों और बाजारों के लिए एक जटिल परिदृश्य प्रस्तुत करती है, जहां अभूतपूर्व प्रगति की क्षमता गंभीर प्रणालीगत जोखिमों के साथ जुड़ी हुई है।