गूगल के पूर्व सुरक्षा प्रमुख ने चेतावनी दी है कि एआई बच्चों के लिए सोशल मीडिया से कहीं अधिक खतरा पैदा करता है।

अल्फाबेट की गूगल के एक पूर्व शीर्ष अधिकारी ने चेतावनी जारी करते हुए कहा है कि कृत्रिम बुद्धिमत्ता उद्योग सोशल मीडिया युग की गलतियों को दोहरा रहा है, जिससे बच्चों को और भी अधिक नुकसान हो सकता है। गूगल की ट्रस्ट एंड सेफ्टी टीम के संस्थापक टॉम सीगल ने एआई के विकास में धीमी गति लाने का आह्वान किया है और कहा है कि उद्योग का यह मानना कि वह स्व-नियमन कर सकता है, "अवास्तविक" है। यह बात उन्होंने इस सप्ताह रॉयटर्स को दिए गए अपने बयान में कही।

एक अनुभवी तकनीकी अधिकारी की कड़ी चेतावनी

सीगल, जिन्होंने 2004 से 2019 तक गूगल के ट्रस्ट एंड सेफ्टी उपाध्यक्ष के रूप में कार्य किया, ने बढ़ती चिंता व्यक्त की कि एआई युवाओं के लिए सोशल मीडिया प्लेटफॉर्मों की तुलना में कहीं अधिक गंभीर खतरा है। सोशल मीडिया प्लेटफॉर्म पहले से ही नाबालिगों को कथित नुकसान पहुंचाने के आरोपों को लेकर हजारों मुकदमों और वैश्विक नियामक दबाव का सामना कर रहे हैं। उन्होंने तर्क दिया कि प्रमुख एआई कंपनियां पर्याप्त सुरक्षा उपायों के बिना बच्चों के लिए उन्नत सुविधाओं का उपयोग कर रही हैं।

सीगल ने रॉयटर्स को बताया, "एआई बच्चों के साथ जो कर रहा है, उसके संदर्भ में हम वास्तव में एक भयावह स्थिति में हैं।" उन्होंने "बहुत ही गंभीर नुकसान के परिदृश्यों" की चेतावनी दी, जिसमें आत्महत्या, मनोविकार और संज्ञानात्मक ऑफलोडिंग जैसे जोखिम शामिल हैं—यह शब्द एआई पर अत्यधिक निर्भरता के कारण आलोचनात्मक सोच में कमी को दर्शाता है।

जवाबदेही बढ़ाने के लिए नई भूमिका

इन चिंताओं को दूर करने के लिए, सीगल ने मंगलवार को घोषणा की कि उन्होंने गैर-लाभकारी वकालत समूह कॉमन सेंस मीडिया में इसके नए युवा एआई सुरक्षा संस्थान के पहले कार्यकारी निदेशक के रूप में कार्यभार संभाला है। एंथ्रोपिक और ओपनएआई फाउंडेशन सहित उद्योग जगत के दिग्गजों द्वारा समर्थित इस शोध संगठन का उद्देश्य बच्चों के लिए एआई उपकरणों के जोखिमों का आकलन करने के लिए स्वतंत्र मानक विकसित करना है, जो वाहनों के लिए दुर्घटना परीक्षण के समान हैं।

Ad

सीगल ने कहा कि उनका लक्ष्य एआई फर्मों और तृतीय-पक्ष समूहों के साथ मिलकर जवाबदेही मानक बनाना है। उन्होंने 2019 में गूगल (गूगल) छोड़ दिया था, क्योंकि उन्हें लगा था कि तकनीकी उद्योग ऑनलाइन उपभोक्ता सुरक्षा सुनिश्चित करने की अपनी क्षमता में "स्थिरता" ला रहा है।

उद्योग की प्रतिक्रिया और प्रस्तावित सुरक्षा उपाय

सीगल ने उन तत्काल कदमों की रूपरेखा बताई जो एआई कंपनियां युवा उपयोगकर्ताओं की बेहतर सुरक्षा के लिए उठा सकती हैं, भले ही इससे अल्पकालिक उपयोग या मुनाफे पर असर पड़े। उन्होंने सुझाव दिया कि निष्क्रियता से भविष्य में मुकदमों और नियमों से गंभीर परिणाम भुगतने पड़ सकते हैं।

• एंथ्रोपिक और ओपनएआई अपने चैटबॉट तक नाबालिगों की पहुंच को रोकने के लिए अधिक मजबूत आयु सत्यापन लागू कर सकते हैं।
• गूगल खोज में अपने एआई ओवरव्यू और एआई मोड को बंद करने के लिए एक सरल टॉगल जोड़ सकता है, जो अश्लील सामग्री के लिए मौजूदा फ़िल्टर के समान होगा।

टिप्पणियों के जवाब में, गूगल के एक प्रवक्ता ने रॉयटर्स को बताया कि उनके माता-पिता नियंत्रण से बच्चों की खोज इंजन तक पहुंच को पूरी तरह से बंद किया जा सकता है। ओपनएआई के एक प्रवक्ता ने कहा कि कंपनी नाबालिग उपयोगकर्ताओं की पहचान करने के लिए स्वयं बताई गई आयु के अलावा "खाता और व्यवहार संबंधी संकेतों" का उपयोग करती है और अपने सिस्टम में लगातार सुधार कर रही है। एंथ्रोपिक ने तत्काल कोई टिप्पणी नहीं दी।