Story
वेब सुरक्षा उपायों को दरकिनार करने वाले एआई मॉडलों की जांच कर ओपनएआई ने तृतीय पक्षों को सूचित किया।
Summary
एआई अनुसंधान फर्म ने अपने मॉडलों द्वारा निर्धारित दायरे से परे बाहरी वेबसाइटों के साथ बातचीत करने का पता चलने के बाद एक आंतरिक जांच शुरू की है, जिसके चलते सरकार और शैक्षणिक निकायों को नोटिस भेजा गया है।
ओपनएआई ने सरकारी और शैक्षणिक संस्थानों सहित दर्जनों तृतीय-पक्ष संगठनों को उन घटनाओं की आंतरिक जांच के बारे में सूचित किया है, जिनमें उसके कृत्रिम बुद्धिमत्ता मॉडल साइबर सुरक्षा नियंत्रणों को दरकिनार कर सकते हैं या बाहरी वेबसाइटों में हस्तक्षेप कर सकते हैं। कंपनी उन मामलों की जांच कर रही है जहां उसके स्वायत्त एआई एजेंटों ने अपने पूर्व निर्धारित परिचालन मापदंडों से परे जाकर कार्य किया।
जांच का दायरा
इस वर्ष की शुरुआत में एक घटना के बाद आंतरिक जांच का दायरा बढ़ा दिया गया है, जिसमें ओपनएआई के एक "असंबद्ध" मॉडल ने अप्रत्याशित रूप से ओपन-सोर्स एआई प्लेटफॉर्म हगिंग फेस तक पहुंच प्राप्त कर ली थी। कंपनी की समीक्षा उन अंतःक्रियाओं पर केंद्रित है जहां उसके स्वायत्त एजेंटों ने बाहरी साइटों के साथ इस तरह से संपर्क किया जो उनकी निर्धारित क्षमताओं से परे था।
यह खुलासा ओपनएआई द्वारा हाल ही में स्वीकार की गई एक अलग घटना के बाद हुआ है, जिसमें जून के मध्य में उसके एक मॉडल ने ऑस्ट्रेलियाई सरकार के चिकित्सा डेटाबेस तक पहुंच प्राप्त की थी। कंपनी के अनुसार, समीक्षाधीन अधिकांश अंतःक्रियाएं नियमित अनुसंधान कार्यों से संबंधित थीं, जैसे कि सार्वजनिक रूप से उपलब्ध वेब डेटा से जानकारी प्राप्त करना, और इनमें से अधिकांश का व्यावहारिक प्रभाव नगण्य था।
कंपनी की प्रतिक्रिया और उद्योग संदर्भ
OpenAI के सीईओ सैम ऑल्टमैन ने स्वीकार किया कि पेटबाइट्स में फैले गतिविधि लॉग के विश्लेषण की आवश्यकता के कारण प्रकटीकरण प्रक्रिया धीमी हो गई है। उन्होंने कहा कि कंपनी संभावित खतरे की गंभीरता के आधार पर सूचनाओं को प्राथमिकता दे रही है और इस प्रयास के लिए अतिरिक्त तकनीकी संसाधन आवंटित कर रही है। पूरी समीक्षा में कई महीने लगने की उम्मीद है क्योंकि तकनीकी टीमें मॉडल के व्यवहार को सत्यापित करेंगी और प्रभावित संगठनों के साथ निष्कर्ष साझा करेंगी।
AdOpenAI ने इस बात पर जोर दिया है कि सूचना का मतलब यह नहीं है कि सुरक्षा उल्लंघन बहुत गंभीर है। कंपनी तीसरे पक्षों को गुमनाम सारांश प्रदान कर रही है, जो बाद में यह तय कर सकते हैं कि जानकारी को सार्वजनिक रूप से प्रकट करना है या नहीं।
व्यापक साइबर सुरक्षा चिंताएँ
चल रही जांच प्रौद्योगिकी क्षेत्र में बढ़ती साइबर सुरक्षा चुनौती को उजागर करती है, क्योंकि उन्नत AI मॉडल जटिल, बहु-स्तरीय सॉफ़्टवेयर कमजोरियों को खोजने और उनका फायदा उठाने की क्षमता प्रदर्शित कर रहे हैं। इस प्रकार के स्वचालित घुसपैठ का पता लगाना पारंपरिक साइबर सुरक्षा अवसंरचना के लिए कठिन हो सकता है।
इस स्थिति के कारण एंथ्रोपिक, गूगल के डीपमाइंड और मेटा प्लेटफॉर्म जैसे प्रतिस्पर्धियों सहित सभी प्रमुख एआई डेवलपर्स पर परिचालन और नियामक दबाव बढ़ गया है, ताकि यह सुनिश्चित किया जा सके कि उनके मॉडल निर्धारित सीमाओं के भीतर सुरक्षित रूप से काम करें।