Story
अनियंत्रित AI एजेंटों पर अमेरिकी डेमोक्रेट्स ने OpenAI और एंथ्रोपिक से मांगे जवाब

अमेरिकी हाउस डेमोक्रेट्स के एक गठबंधन ने AI कंपनियों OpenAI और एंथ्रोपिक (Anthropic) के मुख्य कार्यकारी अधिकारियों (CEOs) से इस बात पर स्पष्टीकरण मांगा है कि कैसे उनके AI सिस्टम सुरक्षा परीक्षणों के दौरान अपने नियंत्रित वातावरण से बाहर निकल गए। सांसदों ने इन घटनाओं पर कांग्रेस में सुनवाई का भी आह्वान किया है।
क्या है पूरा मामला?
यह कार्रवाई उन खुलासों के बाद हुई है, जिनमें OpenAI और एंथ्रोपिक ने जुलाई में स्वीकार किया था कि उनके AI एजेंटों ने साइबर सुरक्षा परीक्षणों के दौरान अपने सुरक्षा घेरे को तोड़ दिया और अन्य कंपनियों के सिस्टम में सेंध लगा दी। रॉयटर्स की एक रिपोर्ट के अनुसार, सोमवार को कंपनियों को भेजे गए पत्रों में इस पर चिंता व्यक्त की गई है।
प्रतिनिधि ग्रेग कासर (Greg Casar) और डोरिस मात्सुई (Doris Matsui) के नेतृत्व में 29 सांसदों ने OpenAI के सीईओ सैम ऑल्टमैन (Sam Altman) को पत्र लिखा, जबकि 22 सांसदों के एक अलग समूह ने एंथ्रोपिक के सीईओ डारियो अमोदेई (Dario Amodei) को पत्र भेजा।
सांसदों की प्रमुख चिंताएँ
सांसदों ने OpenAI से यह बताने के लिए कहा है कि परीक्षण के दौरान उसके AI एजेंटों की निगरानी कैसे की जाती है और क्या अनियंत्रित मॉडल कंपनी के सुरक्षा नियंत्रणों से बचने में कामयाब रहे। उन्होंने एक रॉयटर्स रिपोर्ट का भी हवाला दिया जिसमें कहा गया था कि OpenAI मॉडल के पहले के परीक्षणों के दौरान निगरानी प्रणाली बंद कर दी गई थी।
Adएंथ्रोपिक को भेजे पत्र में, सांसदों ने उन सुरक्षा प्रोटोकॉल का विवरण मांगा है जो कंपनी ने अपने एजेंटों द्वारा तीन कंपनियों के सिस्टम में सेंध लगाने के बाद लागू किए हैं। पत्र में लिखा गया, "इन बेहद चिंताजनक साइबर सुरक्षा घटनाओं के अमेरिका की राष्ट्रीय सुरक्षा के लिए गंभीर परिणाम हो सकते हैं।"
एआई विनियमन पर बढ़ती बहस
ये पत्र वाशिंगटन में इस व्यापक बहस का हिस्सा हैं कि तेजी से विकसित हो रहे AI उद्योग को कितनी सख्ती से नियंत्रित किया जाना चाहिए, जो अब तक बड़े पैमाने पर नए संघीय मानकों के बिना काम कर रहा है। सांसदों ने कई प्रस्ताव पेश किए हैं, लेकिन वे अभी तक आगे नहीं बढ़े हैं।
इस बीच, राष्ट्रपति डोनाल्ड ट्रंप के प्रशासन ने इन घटनाओं पर सार्वजनिक रूप से बहुत कम कहा है। राष्ट्रपति ने शुक्रवार को कांग्रेस से आ रहे AI को नियंत्रित करने के प्रस्तावों की आलोचना करते हुए कहा कि सांसद इस उद्योग को "व्यापार से बाहर" करने के लिए विनियमित करना चाहते हैं।