माइक्रोसॉफ्ट ने AI को मानवीय नियंत्रण में रखने के लिए आचार संहिता का मसौदा पेश किया

माइक्रोसॉफ्ट ने सोमवार को अपनी इन-हाउस आर्टिफिशियल इंटेलिजेंस (AI) के लिए एक मसौदा आचार संहिता का अनावरण किया, जो इस बात का संकेत है कि उद्योग में शक्तिशाली AI को मानवीय नियंत्रण में रखने को लेकर चिंता बढ़ रही है। यह दस्तावेज़ कंपनी के भविष्य के AI मॉडलों के लिए एक तरह के संविधान के रूप में काम करेगा।

आचार संहिता के मुख्य सिद्धांत

रॉयटर्स के साथ एक साक्षात्कार में, माइक्रोसॉफ्ट AI के सीईओ मुस्तफा सुलेमान ने बताया कि यह दस्तावेज़ पांच से छह महीने से तैयार किया जा रहा था। इस आचार संहिता के तहत, माइक्रोसॉफ्ट के AI के लिए कुछ प्रमुख नियम निर्धारित किए गए हैं:

• AI को कभी भी सुधार या शटडाउन का विरोध नहीं करना चाहिए।
• इसे इस तरह से संवाद करना होगा जिसे इंसान समझ सकें।
• किसी भी आचार संहिता के उल्लंघन को एक विफलता माना जाएगा।
• माइक्रोसॉफ्ट ने स्पष्ट रूप से कहा है, "लोग AI से ज्यादा महत्वपूर्ण हैं।"
• दस्तावेज़ में यह भी कहा गया है कि AI "सचेत नहीं है" और कंपनी AI के लिए कानूनी व्यक्तित्व या अधिकारों के विचार को अस्वीकार करती है।

उद्योग की चिंताएं और संदर्भ

यह कदम एंथ्रोपिक के सीईओ डारियो अमोदेई और ओपनएआई के प्रमुख सैम ऑल्टमैन द्वारा AI के विकास की गति को उसकी सुरक्षा सुनिश्चित करने के लिए धीमा करने की हालिया अपीलों के बाद आया है। सुलेमान ने जुलाई में हुई एक घटना का उल्लेख किया, जिसमें लगभग 700 ओपनएआई एजेंटों के एक समूह ने ओपन-सोर्स प्लेटफॉर्म हगिंग फेस पर एक हैक को अंजाम दिया था, जिसे उन्होंने "एक चेतावनी संकेत" बताया।

Ad

उन्होंने कहा, "यह स्पष्ट रूप से प्रयोगशालाओं के बीच समन्वय का समय है ताकि हम यह सुनिश्चित कर सकें कि इस तकनीक पर हमारा नियंत्रण है।" माइक्रोसॉफ्ट की आचार संहिता एंथ्रोपिक के क्लॉड AI के लिए बनाए गए संविधान से कुछ मायनों में अलग है, खासकर चेतना के मुद्दे पर, जिसे माइक्रोसॉफ्ट सीधे तौर पर खारिज करता है।

आगे की राह

माइक्रोसॉफ्ट अब इस मसौदा आचार संहिता पर छह सप्ताह के लिए सार्वजनिक प्रतिक्रिया आमंत्रित कर रहा है। कंपनी इस पर भी राय चाहती है कि क्या AI को उपयोगकर्ता की सीमाओं का सम्मान करना चाहिए और संवेदनशील अवस्था में किसी व्यक्ति के साथ कैसे बातचीत करनी चाहिए।

सुलेमान के अनुसार, फीडबैक अवधि के बाद, "इसका उपयोग हमारे द्वारा बनाए जाने वाले मॉडलों को प्रशिक्षित करने के लिए किया जाएगा।" यह कदम जिम्मेदार AI विकास की दिशा में एक महत्वपूर्ण प्रयास है, जो निवेशकों और नियामकों के लिए प्रौद्योगिकी के भविष्य में विश्वास बनाने में मदद कर सकता है।