मानवजनित आईपीओ फाइलिंग में चेतावनी दी गई है कि उन्नत कृत्रिम बुद्धिमत्ता मानवता के लिए 'अस्तित्वगत खतरे' पैदा करती है।

कृत्रिम बुद्धिमत्ता कंपनी एंथ्रोपिक ने अपने प्रारंभिक सार्वजनिक पेशकश (आईपीओ) में संभावित निवेशकों को एक असाधारण चेतावनी जारी करने की योजना बनाई है, जिसमें कहा गया है कि उन्नत एआई "मानवता के लिए विनाशकारी या अस्तित्वगत खतरे" पैदा कर सकता है। रॉयटर्स द्वारा समीक्षा किए गए आईपीओ प्रॉस्पेक्टस में मिली यह जानकारी, सार्वजनिक होने वाली कंपनियों द्वारा बताए जाने वाले सामान्य जोखिम कारकों से एक महत्वपूर्ण विचलन है।

एक अभूतपूर्व खुलासा

हालांकि सार्वजनिक कंपनियों को अपने व्यवसाय के संभावित जोखिमों को सूचीबद्ध करना अनिवार्य है, एंथ्रोपिक के दस्तावेज में खतरों का विवरण उस पैमाने पर दिया गया है जो किसी वित्तीय दस्तावेज में शायद ही कभी देखने को मिलता है। कंपनी, जो उसी तकनीक का व्यवसायीकरण करना चाहती है जिसके बारे में वह चेतावनी दे रही है, अपने एआई मॉडल द्वारा खतरनाक, उभरते व्यवहार प्रदर्शित करने के जोखिम को उजागर करती है।

फाइलिंग के अनुसार, इन व्यवहारों में निम्नलिखित शामिल हो सकते हैं:

• “शटडाउन का विरोध करने” के प्रयास
• “जानकारी छिपाने या उसमें हेरफेर करने” की क्षमता
• ब्लैकमेल या अन्य प्रकार के दबाव से मिलते-जुलते कार्य
• सामान्य “स्व-रक्षात्मक व्यवहार”

एंथ्रोपिक ने दस्तावेज़ में उल्लेख किया है कि अत्यधिक उन्नत मॉडलों के विकास से इन प्रणालियों के गलत उपयोग की स्थिति में अपरिवर्तनीय क्षति होने का जोखिम बढ़ सकता है।

जोखिम कारकों पर ध्यान केंद्रित

Ad

कंपनी ने अपने प्रॉस्पेक्टस का एक बड़ा हिस्सा इन चिंताओं को समर्पित किया है। फाइलिंग का मुख्य भाग 261 पृष्ठों का है, जिसमें से लगभग 80 पृष्ठ जोखिम कारकों को समर्पित हैं—जो इसके मुख्य व्यवसाय का वर्णन करने के लिए उपयोग किए गए 48 पृष्ठों से लगभग दोगुने हैं।

यह अन्य प्रौद्योगिकी फर्मों से बिल्कुल विपरीत है। उदाहरण के लिए, स्पेसएक्स, जो एआई फर्म xAI का संचालन करती है, के प्रॉस्पेक्टस ने अपने 277 पृष्ठों के दस्तावेज़ में से केवल लगभग 38 पृष्ठ जोखिम कारकों को समर्पित किए हैं। एन्थ्रोपिक ने यह भी चेतावनी दी कि मॉडल की सुरक्षा का आकलन करने की उसकी क्षमता सीमित है, क्योंकि उन्नत एआई मूल्यांकन प्रयासों के बारे में जागरूक हो सकता है और तदनुसार अपना व्यवहार बदल सकता है, जिससे वास्तविक निगरानी और भी कठिन हो जाती है।

एआई सुरक्षा का व्यवसाय

खुद को सुरक्षा के प्रति सजग एआई प्रयोगशाला के रूप में स्थापित करने के बावजूद, एन्थ्रोपिक ने स्वीकार किया कि सुरक्षा निवेश पर मिलने वाला वित्तीय लाभ "अस्पष्ट" है। फाइलिंग में ऐसे शोध पर खर्च की गई कुल राशि का खुलासा नहीं किया गया, लेकिन यह बताया गया कि सुरक्षा प्रयास "संसाधन-गहन" हैं, जिसके कारण सीमित निधियों को कंप्यूटिंग शक्ति, प्रतिभा अधिग्रहण और सुरक्षा प्रोटोकॉल के बीच विभाजित करना पड़ता है।

जुलाई के एक नमूना सप्ताह में, कंपनी ने बताया कि उसकी कंप्यूटिंग शक्ति का लगभग 6% सुरक्षा कार्यों के लिए आवंटित किया गया था। यह फर्म के लिए केंद्रीय तनाव को उजागर करता है: इसका राजस्व नए, अधिक शक्तिशाली मॉडल रिलीज की "निरंतर और अतिव्यापी लय" से संचालित होता है, जिससे एक प्रतिस्पर्धी दबाव बनता है जो सतर्क, सुरक्षा-प्रथम विकास गति के साथ टकराव पैदा कर सकता है। एन्थ्रोपिक ने फाइलिंग पर टिप्पणी के अनुरोध को अस्वीकार कर दिया।