AI चिप की दौड़ नए दौर में: कम बिजली में ज़्यादा प्रदर्शन पर ज़ोर

हॉट चिप्स कॉन्फ्रेंस में उद्योग के दिग्गजों ने एक नई इंजीनियरिंग प्राथमिकता तय की है: सीमित बिजली में अधिकतम कंप्यूटिंग प्रदर्शन हासिल करना। बार्कलेज (Barclays) के अनुसार, डेटा सेंटर में जगह की कमी और कंप्यूटिंग टोकन की लगातार बढ़ती मांग के बीच, 'टोकन प्रति वॉट' अब सफलता का सबसे महत्वपूर्ण पैमाना बन गया है।

प्रदर्शन का नया पैमाना

बार्कलेज के विश्लेषक टॉम ओ'मैली ने कहा कि हार्डवेयर प्रदाता, हाइपरस्केलर और कंपोनेंट सप्लायर, सभी एक निश्चित पावर बजट में सबसे ज़्यादा प्रदर्शन हासिल करने पर ज़ोर दे रहे हैं। यह बदलाव उद्योग की सोच में एक बड़े परिवर्तन को दर्शाता है, जहाँ अब अलग-अलग कंपोनेंट्स के बजाय पूरे सिस्टम के प्रदर्शन पर ध्यान केंद्रित किया जा रहा है। रिपोर्ट के अनुसार, अब कंप्यूटिंग की इकाई के रूप में पूरे "रैक" को देखा जा रहा है।

AI वर्कलोड को ट्रेनिंग और इंफेरेंस चिप्स के बीच विभाजित करने के लिए अलग-अलग रणनीतियों पर भी बहस चल रही है, जिसमें वर्तमान में "डिसएग्रीगेटेड इंफेरेंस" (disaggregated inference) पर ध्यान केंद्रित किया गया है।

प्रमुख कंपनियों की रणनीतियाँ

इस नई दौड़ में कंपनियां अलग-अलग रणनीतियां अपना रही हैं ताकि ऊर्जा दक्षता में बढ़त हासिल की जा सके:

Ad

• AMD: इसने कंप्यूटिंग और दक्षता बढ़ाने के लिए अपने ट्रांसेंडैंटल इंजन को बेहतर बनाया है और एक टेंसर डेटा मूवर जोड़ा है।
• Microsoft: ऊर्जा दक्षता के माध्यम से स्वामित्व की कुल लागत (TCO) को कम करने के लिए "सॉफ्टवेयर डिफाइंड लोकल एक्सेस डेटाफ्लो" नामक एक नई वास्तुकला पेश की है।
• Nvidia: कॉन्फ्रेंस में एक "स्पेक्युलेटिव डीकोड" (speculative decode) दृष्टिकोण पर चर्चा की।
• Cerebras: AMD और AWS के साथ साझेदारी के माध्यम से डिसएग्रीगेटेड इंफेरेंस पर काम कर रही है, जिससे विश्लेषकों के अनुसार टोकन-प्रति-सेकंड-प्रति-किलोवॉट में भारी सुधार हो सकता है।
• OpenAI: अपने "Jalapeño" चिप के साथ एक अलग दृष्टिकोण अपना रही है, जिसमें प्रीफिल, ड्राफ्ट और डीकोड फ़ंक्शन को अलग-अलग हार्डवेयर पर विभाजित करने के बजाय एक ही चिप पर रखा गया है।

मेमोरी और भविष्य की दिशा

मेमोरी भी एक प्रमुख विषय के रूप में उभरी है, जिसमें क्षमता, बैंडविड्थ और बिजली दक्षता केंद्रीय विचार हैं। ओ'मैली ने Nvidia की हालिया NVHBM घोषणा की ओर इशारा किया, जिसके बारे में कंपनी का कहना है कि यह मेमोरी बैंडविड्थ में 30% तक सुधार कर सकती है, HBM बिजली की खपत में 15% की कटौती कर सकती है, और कंप्यूट डाई पर 25% अधिक जगह खाली कर सकती है।

भविष्य में, मेमोरी आर्किटेक्चर में अगला बड़ा बदलाव 3D DRAM हो सकता है, जिसमें सैमसंग और सेरेब्रस दोनों स्टैक्ड कॉन्फ़िगरेशन की खोज कर रहे हैं। हालांकि, विश्लेषक ने कहा कि थर्मल और पावर डिलीवरी चुनौतियों को देखते हुए ये प्रयास अभी "बहुत शुरुआती चरण" में हैं। CXL मेमोरी एक्सपेंशन में भी उद्योग की रुचि बनी हुई है, लेकिन विश्लेषक का कहना है कि वे "तैनाती के सबूत देखने तक सतर्क" रहेंगे।