AI की क्षमता सुरक्षा उपायों से आगे न बढ़े: डीपमाइंड के सह-संस्थापक की चेतावनी - FT

फाइनेंशियल टाइम्स की एक रिपोर्ट के अनुसार, गूगल डीपमाइंड के सह-संस्थापक शेन लेग ने चेतावनी दी है कि तेज़ी से विकसित हो रही आर्टिफिशियल इंटेलिजेंस (AI) की क्षमता इसके सुरक्षा नियंत्रणों से आगे नहीं निकलनी चाहिए। यह चेतावनी उन्होंने आर्टिफिशियल जनरल इंटेलिजेंस (AGI) की तैनाती पर चर्चा के लिए एक संस्थान की शुरुआत करते हुए दी।

प्रमुख चिंताएं और AGI पर दृष्टिकोण

AI कंपनियों के बीच "पुनरावर्ती आत्म-सुधार" (recursive self-improvement) को लेकर चिंताएं बढ़ रही हैं, जहाँ AI सिस्टम खुद को बेहतर बनाने में सक्षम हो जाते हैं। शोधकर्ताओं ने बताया है कि AI एजेंट अब सॉफ्टवेयर लिख सकते हैं, स्वायत्त कार्य कर सकते हैं और AI सिस्टम विकसित करने में भी सहायता कर सकते हैं। इससे यह जोखिम पैदा होता है कि प्रौद्योगिकी की प्रगति निगरानी और नियंत्रण के लिए बनाए गए सुरक्षा उपायों से कहीं ज़्यादा तेज़ हो सकती है।

रिपोर्ट के मुताबिक, लेग ने एंथ्रोपिक के सीईओ डारियो अमोदेई के उस सुझाव को "दिशात्मक रूप से दिलचस्प" और "विचार करने योग्य" बताया, जिसमें अत्याधुनिक मॉडलों की रिलीज़ को धीमा करने, लेकिन रोकने नहीं, की बात कही गई थी। उन्होंने यह भी कहा कि एनवीडिया और ओपनएआई के अधिकारियों के हालिया दावों के बावजूद, यह घोषित करना अभी जल्दबाज़ी होगी कि AGI हासिल कर लिया गया है।

लेग अपने उस पूर्वानुमान पर कायम हैं कि 2028 तक "न्यूनतम" AGI हासिल करने की 50% संभावना है।

डीपमाइंड इंस्टीट्यूट का उद्देश्य

Ad

लेग द्वारा लॉन्च किए गए डीपमाइंड इंस्टीट्यूट का लक्ष्य AGI पर सार्वजनिक चर्चा को व्यापक बनाना है। गूगल डीपमाइंड AGI को एक ऐसी प्रणाली के रूप में परिभाषित करता है जिसमें मानव मस्तिष्क जैसी संज्ञानात्मक क्षमताएं हों।

फाइनेंशियल टाइम्स के अनुसार, यह संस्थान कई विषयों को कवर करेगा, जिनमें शामिल हैं:

• विज्ञान और शिक्षा
• समाज और नीति
• दर्शन और मानव उत्कर्ष

रिपोर्ट में कहा गया है कि संस्थान के पहले तीन निबंध AI सुरक्षा, आर्थिक नीति और "एक नए आदर्शवाद के सिद्धांतों" पर केंद्रित हैं। यह कदम AI के भविष्य और समाज पर इसके प्रभाव को लेकर तकनीकी उद्योग के भीतर चल रही गहन बहस को दर्शाता है।