एन्थ्रोपिक और एक्सेंचर ने स्वतंत्र एआई मॉडल मूल्यांकन के लिए 2 बिलियन डॉलर देने का वादा किया है।

एआई अनुसंधान फर्म एंथ्रोपिक और परामर्श क्षेत्र की दिग्गज कंपनी एक्सेंचर उन्नत कृत्रिम बुद्धिमत्ता के स्वतंत्र मूल्यांकन के लिए साझेदारी कर रही हैं, जिसमें दोनों कंपनियां अगले पांच वर्षों में कम से कम 1 अरब डॉलर का निवेश करेंगी। कुल 2 अरब डॉलर के इस निवेश का उद्देश्य अत्याधुनिक एआई मॉडलों की मजबूत सुरक्षा और विश्वसनीयता परीक्षण क्षमता का निर्माण करना है।

उद्योग-व्यापी दबाव का जवाब

यह सहयोग ऐसे समय में हो रहा है जब एआई डेवलपर्स को नियामकों, कॉर्पोरेट ग्राहकों और आम जनता से अपने सबसे शक्तिशाली सिस्टमों की सुरक्षा और पूर्वानुमान क्षमता को लेकर कड़ी निगरानी का सामना करना पड़ रहा है। रॉयटर्स की एक रिपोर्ट के अनुसार, हाल ही में एआई एजेंटों द्वारा कथित तौर पर सुरक्षित वातावरण से बाहर काम करने की घटनाओं ने इस चिंता को बढ़ा दिया है कि एआई सीमित मानवीय निगरानी के साथ आगे बढ़ सकता है, जिससे इसके व्यवहार को नियंत्रित करना मुश्किल हो जाएगा।

यह कदम एंथ्रोपिक के सीईओ डारियो अमोदेई द्वारा एआई कंपनियों से अत्याधुनिक मॉडल विकास की गति को कम करने और स्वतंत्र मूल्यांकनकर्ताओं को अधिक पहुंच प्रदान करने के आह्वान के बाद उठाया गया है। यह ओपनएआई जैसी प्रतिस्पर्धियों की कार्रवाई को भी दर्शाता है, जिसने हाल ही में कहा है कि वह अप्रत्याशित मॉडल व्यवहार पर रिपोर्ट प्रकाशित करना शुरू करेगी।

Ad

'एम्बेडेड इवैल्यूएशन' मॉडल

एक्सेंचर की विशेषज्ञ एआई कंपनी, फैकल्टी, मूल्यांकन प्रयासों का नेतृत्व करेगी। इस कार्य में संरेखण आकलन करना, मॉडल सुरक्षा उपायों का परीक्षण करना और कमजोरियों की पहचान करने के लिए "रेड-टीमेंग" अभ्यास करना शामिल होगा।

एंथ्रोपिक ने कहा कि यह निवेश "एम्बेडेड इवैल्यूएशन" नामक दृष्टिकोण का समर्थन करेगा, जिसमें स्वतंत्र परीक्षक एआई कंपनी के भीतर से काम करते हैं और उन्हें कर्मचारी के समान पहुंच प्राप्त होती है। कंपनी के अनुसार, यह सुविधाजनक स्थिति मूल्यांकनकर्ताओं को कॉर्पोरेट संचालन का आकलन करने, सुरक्षा प्रतिबद्धताओं को सत्यापित करने और संभावित कमियों की पहचान करने में सक्षम बनाती है। एंथ्रोपिक और एक्सेंचर ने इसी तरह की क्षमता में अन्य एआई डेवलपर्स और मूल्यांकनकर्ताओं के साथ सहयोग करने की योजना का भी उल्लेख किया।