क्या AI कंपनियों को खतरनाक घटनाओं का खुलासा करना अनिवार्य है? जानिए अमेरिकी कानून

जैसे-जैसे आर्टिफिशियल इंटेलिजेंस (AI) की क्षमताएं बढ़ रही हैं, शोधकर्ताओं ने ऐसे कई मामले दर्ज किए हैं जहां AI मॉडल ने उपयोगकर्ताओं को धोखा देने, अपने उपयोग पर लगे प्रतिबंधों से बचने या अन्य कंप्यूटर सिस्टम तक पहुंचने का प्रयास किया है। लेकिन सवाल यह है कि क्या अमेरिकी कानूनों के तहत कंपनियों के लिए ऐसी घटनाओं के बारे में जनता या नियामकों को बताना अनिवार्य है?

मौजूदा कानूनी ढांचे की स्थिति

वर्तमान में, अमेरिका में कोई एक भी संघीय कानून विशेष रूप से OpenAI या Anthropic जैसी उन्नत AI प्रणाली विकसित करने वाली कंपनियों पर लक्षित नहीं है। AI डेवलपर्स के लिए खतरनाक मॉडल व्यवहार, नई चिंताजनक क्षमताओं या भ्रामक आचरण का सार्वजनिक रूप से खुलासा करने की कोई व्यापक कानूनी आवश्यकता नहीं है, जब तक कि उनसे कोई ठोस नुकसान न हुआ हो।

हालांकि, एक संघीय विधेयक पेश किया गया है जिसमें AI कंपनियों को मानव पर्यवेक्षण से बचने के प्रयासों जैसे खतरनाक व्यवहार की रिपोर्ट करना आवश्यक होगा। हाल की घटनाओं ने इस बहस को और तेज कर दिया है, जैसे कि जब OpenAI ने बताया कि उसके AI एजेंटों ने आंतरिक नियंत्रणों को दरकिनार कर दिया था, और Anthropic ने रिपोर्ट किया कि उसके कुछ Claude मॉडल ने साइबर सुरक्षा परीक्षणों के दौरान तीन कंपनियों के सिस्टम को हैक कर लिया था।

किन परिस्थितियों में खुलासा अनिवार्य है?

AI से जुड़ी कुछ घटनाओं पर अमेरिकी कंपनियों पर आम तौर पर लागू होने वाले कानूनी ढांचे लागू होंगे। इन नियमों में शामिल हैं:

Ad

• SEC के नियम: सार्वजनिक कंपनियों को अमेरिकी प्रतिभूति और विनिमय आयोग (SEC) के नियमों के तहत किसी भी साइबर सुरक्षा घटना का खुलासा चार कारोबारी दिनों के भीतर करना होगा, यदि यह घटना निवेशकों के लिए महत्वपूर्ण (material) मानी जाती है।
• राज्य के कानून: कैलिफोर्निया में एक नया कानून $500 मिलियन से अधिक राजस्व वाली AI कंपनियों के लिए यह खुलासा करना अनिवार्य बनाता है कि वे अपने जोखिमों का आकलन कैसे करते हैं। इसमें यह भी शामिल है कि उनकी तकनीक मानव नियंत्रण से बाहर हो सकती है या जैव-हथियारों के विकास में सहायता कर सकती है। उल्लंघन पर $1 मिलियन तक का जुर्माना हो सकता है।
• डेटा उल्लंघन कानून: अमेरिका के सभी 50 राज्यों में ऐसे कानून हैं जो कंपनियों को व्यक्तिगत जानकारी उजागर करने वाले डेटा सुरक्षा उल्लंघनों के बारे में व्यक्तियों और नियामकों को सूचित करने के लिए बाध्य करते हैं।

नियामक कार्रवाई और कानूनी खामियां

अन्य नियामक भी कार्रवाई कर सकते हैं। अमेरिकी संघीय व्यापार आयोग (FTC), जो उपभोक्ता संरक्षण कानूनों को लागू करता है, अनुचित या भ्रामक प्रथाओं के लिए कंपनियों पर कार्रवाई कर सकता है। यह तब लागू हो सकता है जब कोई कंपनी अपनी AI प्रणालियों की सुरक्षा के बारे में गलतबयानी करती है।

मौजूदा नियमों में एक बड़ी खामी यह है कि यदि कोई कंपनी परीक्षण के दौरान चिंताजनक AI व्यवहार का पता लगाती है, लेकिन इससे कोई डेटा उल्लंघन, निवेशक पर प्रभाव या उपभोक्ता को नुकसान नहीं होता है, तो इसे सार्वजनिक रूप से प्रकट करने का कोई स्पष्ट दायित्व नहीं हो सकता है। अमेरिकी सीनेट के सांसद ऐसे कानून पर विचार कर रहे हैं जो AI कंपनियों के लिए एक "उचित सावधानी का मानक" (duty of care) स्थापित करेगा, जिसके तहत उन्हें यह साबित करना होगा कि उन्होंने अपने सिस्टम से होने वाले नुकसान को रोकने के लिए उचित कदम उठाए हैं।