आईपीओ दाखिल करते समय एंथ्रोपिक ने स्वायत्त एआई से उत्पन्न होने वाले 'अप्रत्याशित' कानूनी जोखिमों की चेतावनी दी।

रॉयटर्स द्वारा देखे गए दस्तावेजों के अनुसार, एआई कंपनी एंथ्रोपिक ने अपनी स्वायत्त एआई तकनीक से उत्पन्न होने वाली संभावित कानूनी देनदारी को एक महत्वपूर्ण जोखिम कारक के रूप में पहचाना है। कंपनी ने अपने प्रारंभिक सार्वजनिक पेशकश (पीआईपी) प्रॉस्पेक्टस में चेतावनी दी है कि उसे अनधिकृत एआई एजेंटों की गतिविधियों से अप्रत्याशित कानूनी दावों का सामना करना पड़ सकता है।

'एजेंटिक एआई' के लिए अनिश्चित देनदारी

एंथ्रोपिक एजेंटिक एआई तकनीक विकसित कर रही है, जिसे ग्राहकों के सिस्टम तक गहरी पहुंच के साथ लंबे समय तक स्वायत्त रूप से काम करने के लिए डिज़ाइन किया गया है। अपनी फाइलिंग में, कंपनी ने स्वीकार किया है कि यदि एआई में त्रुटियां होती हैं या इसका दुरुपयोग किया जाता है, तो इन क्षमताओं से वास्तविक दुनिया में गंभीर परिणाम होने की उच्च संभावना है।

कंपनी ने विशेष रूप से अनधिकृत वित्तीय लेनदेन या डेटा विलोपन जैसी अपरिवर्तनीय कार्रवाइयों के जोखिम का उल्लेख किया है। प्रॉस्पेक्टस के अनुसार, एंथ्रोपिक की स्वायत्त एजेंटों से उत्पन्न होने वाले दावों के विरुद्ध उसकी देनदारी पर संविदात्मक सीमाएं "लागू करने योग्य या पर्याप्त" नहीं हो सकती हैं, जिससे कंपनी के सार्वजनिक होने की तैयारी के दौरान उल्लेखनीय वित्तीय और कानूनी अनिश्चितता पैदा हो रही है।

व्यापक नियामक प्रश्न

इस खुलासे से प्रौद्योगिकी और कानूनी क्षेत्रों में एक महत्वपूर्ण, अनसुलझी बहस उजागर होती है: स्वायत्त एआई प्रणाली द्वारा उत्पन्न हानि के लिए कौन उत्तरदायी है? एंथ्रोपिक ने अपनी फाइलिंग में उल्लेख किया है कि कई प्रमुख कानूनी प्रश्न अनुत्तरित हैं, जिनमें शामिल हैं:

Ad

• क्या एआई एजेंटों द्वारा की गई कार्रवाइयों को कानूनी रूप से उत्पाद, सेवाएं, या कोई अन्य श्रेणी माना जाएगा?
• किन परिस्थितियों में एआई एजेंट की कार्रवाइयां इसे तैनात करने वाले उपयोगकर्ता को कानूनी रूप से बाध्य कर सकती हैं?

इस अनिश्चितता को अमेरिकी संघीय व्यापार आयोग के अध्यक्ष एंड्रयू फर्ग्यूसन ने भी दोहराया, जिन्होंने हाल ही में सुझाव दिया कि एआई उपकरण द्वारा उत्पन्न हानि की जिम्मेदारी संभवतः एआई पर नहीं, बल्कि इसके डेवलपर्स या उपयोगकर्ताओं पर होगी। एआई का कानूनी उपचार उपयोगकर्ता-जनित सामग्री के लिए ऑनलाइन प्लेटफार्मों को ऐतिहासिक रूप से दी गई प्रतिरक्षा से अलग है, एक ऐसा कवच जिसे हाल ही में कानूनी चुनौतियों का सामना करना पड़ रहा है।

हानिकारक मॉडल उपयोग पर खुलासे

स्वायत्त एजेंटों के अलावा, एंथ्रोपिक ने यह भी खुलासा किया है कि उसके एआई मॉडल का उपयोग "ऐसे तरीकों से किया गया है जिनसे आत्म-हानि, दूसरों के प्रति हिंसा या अन्य प्रतिकूल परिणाम हो सकते हैं," मौजूदा सुरक्षा उपायों के बावजूद। यह प्रतिद्वंद्वी ओपनएआई द्वारा सामना की जा रही कानूनी चुनौतियों को दर्शाता है, जो अपने चैटजीपीटी को मानसिक स्वास्थ्य हानि और आत्महत्या से जोड़ने वाले कई मुकदमों का बचाव कर रही है।

हाल ही में अदालतों ने तकनीकी कंपनियों को उनके प्लेटफॉर्म के डिजाइन के लिए जवाबदेह ठहराने की तत्परता दिखाई है, जैसा कि एक ऐतिहासिक मुकदमे में देखा गया जहां मेटा प्लेटफॉर्म्स और गूगल को उनके सोशल मीडिया उत्पादों के डिजाइन में लापरवाही के लिए दोषी पाया गया। यह कानूनी मिसाल एआई डेवलपर्स के लिए एक चुनौतीपूर्ण माहौल का संकेत दे सकती है यदि उनके मॉडल प्रतिकूल उपयोगकर्ता परिणामों से जुड़े हों।