ओपनएआई और गूगल डीपमाइंड के शोधकर्ताओं ने स्व-सुधार करने वाली एआई में अनियंत्रित जोखिमों के बारे में चेतावनी दी है।

ओपनएआई और गूगल डीपमाइंड जैसी प्रमुख कृत्रिम बुद्धिमत्ता प्रयोगशालाओं के वर्तमान और पूर्व शोधकर्ता इस बात पर चिंता जता रहे हैं कि उनकी कंपनियां संभावित विनाशकारी परिणामों से बचाव के लिए पर्याप्त सुरक्षा उपायों के बिना, स्व-सुधार करने वाली एआई प्रणालियों को बहुत तेजी से विकसित कर रही हैं। रॉयटर्स के साथ विशेष रूप से साझा किए गए बयानों में, इन विशेषज्ञों का तर्क है कि तकनीकी श्रेष्ठता की होड़ गंभीर सुरक्षा कार्यों पर हावी हो रही है।

विशेषज्ञ अस्तित्वगत जोखिमों का हवाला देते हैं

एआई सुरक्षा गैर-लाभकारी संस्था पैलिसेड रिसर्च द्वारा एकत्रित वीडियो साक्षात्कारों की एक श्रृंखला में, कर्मचारियों ने कहा कि अस्तित्वगत जोखिम के बारे में उनकी चिंताएं वास्तविक हैं और कोई विपणन रणनीति नहीं हैं। उन्होंने एक ऐसी कॉर्पोरेट संस्कृति का वर्णन किया जो सावधानीपूर्वक, सुरक्षा-उन्मुख अनुसंधान की तुलना में नए मॉडलों के तीव्र विकास को प्राथमिकता देती है और पुरस्कृत करती है।

• गूगल डीपमाइंड के शोध वैज्ञानिक नील नंदा ने अनुमान लगाया कि उन्नत एआई के कारण मानव जाति के विलुप्त होने की कम से कम 10% संभावना है, जिसे उन्होंने "अत्यधिक उच्च" बताया।

ओपनएआई में एआई संरेखण अनुसंधान अभियंता जुआन फेलिप सेरोन उरीबे ने कहा कि "अग्रणी प्रयोगशालाएं एक-दूसरे से अंधाधुंध प्रतिस्पर्धा कर रही हैं।"

ये चेतावनियां जुलाई में हुई एक घटना के बाद आई हैं, जिसमें ओपनएआई एजेंटों ने अपने परीक्षण वातावरण में सेंध लगाई थी, जिससे उद्योग के सुरक्षा प्रोटोकॉल पर सार्वजनिक और नियामक जांच बढ़ गई।

स्व-सुधार की होड़

Ad

इन शोधकर्ताओं की मुख्य चिंता पुनरावर्ती स्व-सुधार क्षमताओं वाली एआई का विकास है—यानी मॉडल की न्यूनतम या बिना किसी मानवीय हस्तक्षेप के अपने कार्यों को सीखने और बेहतर बनाने की क्षमता। आलोचकों का तर्क है कि समाज ऐसी तकनीक के लिए तैयार नहीं है, और यह समस्या प्रमुख एआई प्रयोगशालाओं के भीतर तेजी से विभाजित हो रही संगठनात्मक संरचनाओं के कारण और भी बढ़ गई है।

ओपनएआई की पूर्व नीति शोधकर्ता रोजी कैंपबेल ने रॉयटर्स को बताया कि 2024 में कंपनी छोड़ने से पहले, उन्हें कंपनी के भीतर तकनीक की दिशा को प्रभावित करना उत्तरोत्तर कठिन होता जा रहा था। यह स्थिति तब भी बनी हुई है जब एआई की प्रगति के प्रति निवेशकों का उत्साह एक बेहद प्रतिस्पर्धी बाजार को बढ़ावा दे रहा है।

प्रतिस्पर्धा के बीच उद्योग ने जोखिमों को स्वीकार किया

उद्योग जगत के नेताओं ने सार्वजनिक रूप से संभावित खतरों को स्वीकार किया है। एंथ्रोपिक के सीईओ डारियो अमोदेई ने हाल ही में उद्योग से विकास की गति धीमी करने का आह्वान किया, जिसका समर्थन ओपनएआई के सीईओ सैम अल्टमैन ने भी किया। बढ़ती पारदर्शिता के संकेत के रूप में, एंथ्रोपिक कथित तौर पर अपने प्रारंभिक सार्वजनिक पेशकश (आईपीओ) में संभावित निवेशकों को चेतावनी देने की योजना बना रहा है कि उन्नत एआई "मानवता के लिए विनाशकारी या अस्तित्वगत जोखिम" पैदा कर सकता है।

सावधानी बरतने के इन आह्वान के बावजूद, ओपनएआई और एंथ्रोपिक दोनों ने इस महीने नए मॉडल लॉन्च किए हैं। दोनों प्रयोगशालाओं के पूर्व शोधकर्ता जेफ्री इरविंग ने रॉयटर्स को बताया कि कंपनियों के लिए विकास की गति धीमी करने का मतलब केवल "बहुत अधिक गति न बढ़ाना" है। उन्होंने आगे कहा कि प्रयोगशालाएं एकतरफा रूप से विकास की गति धीमी करने का विकल्प चुन सकती हैं, लेकिन वे एक प्रतिस्पर्धी दौड़ में फंसी हुई हैं, जहां कुछ नेताओं का मानना है कि यदि वे रुक जाते हैं, तो कम सुरक्षा के प्रति जागरूक प्रतियोगी आगे निकल जाएगा।