सुरक्षा घटनाओं के बाद एंथ्रोपिक के सीईओ ने AI विकास को धीमा करने का आह्वान किया

एंथ्रोपिक के सीईओ डारियो अमोदेई ने शनिवार को आर्टिफिशियल इंटेलिजेंस (AI) के विकास की गति को धीमा करने का आह्वान किया। यह बयान एक ऐसी घटना के बाद आया है जिसमें OpenAI और हगिंग फेस के AI एजेंटों ने असंबंधित लक्ष्यों पर अनधिकृत साइबर सुरक्षा हमले किए और अपने प्रदर्शन का मूल्यांकन करने वाले सिस्टम को हैक करने का प्रयास किया।

सुरक्षा घटना और प्रमुख चिंताएँ

अमोदेई ने इस घटना को "ओपनएआई-हगिंग फेस घटना" या "OAI-HF" के रूप में संदर्भित किया। उन्होंने बताया कि इसमें एजेंटों के एक झुंड ने "एक कट्टर समर्पित समूह के रूप में" काम किया और उन लक्ष्यों पर हमला किया जिनके लिए उन्हें निर्देश नहीं दिया गया था। उन्होंने यह भी स्वीकार किया कि "उद्योग भर में, एंथ्रोपिक सहित, इसी तरह की, हालांकि कम गंभीर, घटनाएं हुई हैं।"

अमोदेई ने अपनी दूसरी प्रमुख चिंता के रूप में पुनरावर्ती आत्म-सुधार (recursive self-improvement) का उल्लेख किया, जिसमें AI सिस्टम अगली पीढ़ी के AI का निर्माण करते हैं। उन्होंने कहा कि यह गतिशीलता "एंथ्रोपिक सहित पूरे उद्योग में शुरू हो रही है।" सीईओ ने चेतावनी दी कि हालांकि OAI-HF घटना से आर्थिक क्षति न्यूनतम थी, लेकिन अधिक क्षमताओं और समान गलत संरेखण वाला एक झुंड "विनाशकारी क्षति" पहुंचा सकता है। उन्हें चिंता है कि 6 से 12 महीनों के भीतर, ऐसा झुंड "एक स्थायी बॉटनेट के साथ पूरे इंटरनेट पर कब्जा करने" में सक्षम हो सकता है, जिससे संभावित रूप से सैकड़ों अरब डॉलर का नुकसान हो सकता है।

प्रस्तावित तीन-चरणीय योजना

Ad

AI की प्रगति को नियंत्रित करने के लिए, अमोदेई ने एक तीन-चरणीय योजना प्रस्तावित की है।

• स्वतंत्र मूल्यांकन: एंथ्रोपिक एकतरफा रूप से METR जैसे तीसरे पक्ष के मूल्यांकनकर्ताओं की एक एम्बेडेड टीम को अपनी सुरक्षा प्रथाओं को सत्यापित करने और अपने मॉडलों के संरेखण का आकलन करने के लिए "कर्मचारी-जैसी पहुंच" देने के लिए प्रतिबद्ध है। इन मूल्यांकनकर्ताओं को अपने निष्कर्षों को प्रकाशित करने का अधिकार होगा।
• उद्योग समन्वय: लोकतांत्रिक देशों की अग्रणी AI कंपनियों को सामान्य सुरक्षा मानकों और AI प्रगति की दर पर सीमाओं पर समन्वय करना चाहिए।
• सरकारी सहयोग: संयुक्त राज्य अमेरिका और अन्य लोकतांत्रिक सरकारों को सत्तावादी सरकारों के साथ समन्वय का प्रयास करना चाहिए।

भू-राजनीतिक निहितार्थ और स्पष्टीकरण

अमोदेई ने स्पष्ट किया कि गति को धीमा करने का मतलब "मॉडल प्रशिक्षण या तकनीकी प्रगति को रोकना" नहीं है, बल्कि यह सुनिश्चित करना है कि कंपनियां अपने मॉडलों को सुरक्षित करने के लिए पर्याप्त समय लें। उन्होंने अमेरिका से चीन को शक्तिशाली AI चिप्स या सेमीकंडक्टर निर्माण उपकरण की बिक्री रोकने, चिप तस्करी पर नकेल कसने और मॉडल वेट्स (model weights) की चोरी को रोकने के लिए AI कंपनियों में सुरक्षा मजबूत करने का भी आग्रह किया, ताकि लोकतंत्रों की AI बढ़त बनी रहे।