AI की मेमोरी स्टैक: निवेशकों के लिए बर्नस्टीन की विश्लेषण रिपोर्ट

बर्नस्टीन के विश्लेषकों के अनुसार, आर्टिफिशियल इंटेलिजेंस (AI) एक बड़ी 'मेमोरी बॉटलनेक' यानी मेमोरी की कमी की समस्या पैदा कर रहा है। इसके चलते मेमोरी की मांग केवल हाई-बैंडविड्थ मेमोरी (HBM) तक सीमित नहीं है, बल्कि यह पारंपरिक DRAM, NAND फ्लैश और स्टोरेज तक भी फैल गई है।

विश्लेषकों का कहना है कि मेमोरी सेक्टर में निवेश के अवसर अब AI के वर्कलोड पर निर्भर करेंगे, क्योंकि ट्रेनिंग, इंफेरेंस, और एजेंटिक AI जैसी विभिन्न प्रक्रियाओं की मेमोरी स्टैक पर अलग-अलग मांगें होती हैं।

AI वर्कलोड और मेमोरी की बदलती मांग

AI मॉडल की ट्रेनिंग में बहुत अधिक कंप्यूटिंग पावर की आवश्यकता होती है, जहाँ मेमोरी बैंडविड्थ मॉडल के आकार और कंप्यूटिंग की गति को सीमित करती है। इसमें HBM की केंद्रीय भूमिका है, लेकिन बड़े पैमाने पर ट्रेनिंग के लिए सिस्टम DRAM, लोकल SSDs और नेटवर्क स्टोरेज की भी जरूरत होती है।

वहीं, इंफेरेंस (जब AI मॉडल किसी प्रॉम्प्ट पर प्रतिक्रिया देता है) एक अलग चुनौती पेश करता है। इसका पहला चरण 'प्रीफिल' कंप्यूट-बाउंड होता है, जिसमें GPU और HBM महत्वपूर्ण हैं। लेकिन बाद का 'डिकोड' चरण मेमोरी-बाउंड होता है। इस प्रक्रिया में मॉडल पिछले टोकन को एक की-वैल्यू (KV) कैश में स्टोर करते हैं, जिसकी जरूरत कॉन्टेक्स्ट की लंबाई और उपयोगकर्ताओं की संख्या बढ़ने के साथ बढ़ती जाती है। बर्नस्टीन का अनुमान है कि बड़े डिप्लॉयमेंट में KV कैश को मॉडल वेट से भी ज़्यादा मेमोरी की आवश्यकता हो सकती है।

उभरती टेक्नोलॉजी और नए अवसर

मेमोरी पर बढ़ते दबाव के कारण CXL मेमोरी, Nvidia की "स्टोरेज नेक्स्ट" पहल और CMX कॉन्टेक्स्ट स्टोरेज जैसी नई मेमोरी टेक्नोलॉजी विकसित हो रही हैं। ये टेक्नोलॉजी प्रदर्शन, क्षमता और लागत के बीच संतुलन बनाने का प्रयास करती हैं। रिट्रीवल-ऑगमेंटेड जेनरेशन (RAG) और एजेंटिक AI जैसी तकनीकें इस मांग को और बढ़ा सकती हैं, जिससे SSD, HDD और पारंपरिक DRAM की आवश्यकता में भी वृद्धि होगी।

Ad

मेमोरी निर्माता हाई-बैंडविड्थ फ्लैश जैसी तकनीकों पर भी काम कर रहे हैं, जो HBM जैसी बैंडविड्थ को NAND की अधिक क्षमता और कम लागत के साथ जोड़ने का प्रयास करती है। हालांकि, बर्नस्टीन ने कहा कि इसमें तकनीकी बाधाएं अभी भी बहुत अधिक हैं।

निवेशकों के लिए क्या हैं मायने

बर्नस्टीन ने अपनी रिपोर्ट में कई मेमोरी निर्माताओं पर अपनी रेटिंग भी जारी की है। यह दर्शाता है कि AI की बढ़ती जरूरतों से कौन सी कंपनियां लाभान्वित हो सकती हैं।

• आउटपरफॉर्म (Outperform) रेटिंग: Samsung Electronics, SK hynix, Micron, SanDisk, Seagate, और Western Digital.
• अंडरपरफॉर्म (Underperform) रेटिंग: Kioxia.

यह विश्लेषण बताता है कि निवेशकों को अब सिर्फ HBM पर ध्यान केंद्रित करने के बजाय पूरे मेमोरी इकोसिस्टम पर नजर रखनी चाहिए, क्योंकि AI का विकास पारंपरिक मेमोरी कंपोनेंट्स की मांग को भी बढ़ा रहा है।