Citi: Jaringan Menggantikan Komputasi sebagai Hambatan Utama dalam Kinerja AI

Jaringan kini menggantikan kekuatan komputasi mentah sebagai kendala utama yang membatasi kinerja kecerdasan buatan (AI) seiring dengan meningkatnya skala dan kompleksitas sistem. Menurut analis Citi, pergeseran ini menciptakan prospek positif bagi sejumlah perusahaan teknologi yang berspesialisasi dalam infrastruktur jaringan.

Pergeseran Fokus dari GPU ke Jaringan

Analis Citi, setelah mengikuti konferensi Hot Chips, mencatat bahwa gelombang pertama pengembangan infrastruktur AI sangat terfokus pada GPU yang lebih cepat dan kapasitas pelatihan yang lebih besar. Namun, seiring sistem AI berkembang menuju triliunan parameter dan beban kerja yang lebih kompleks, pergerakan data yang efisien antar cip, server, dan pusat data telah menjadi hambatan yang lebih signifikan.

Presentasi dari perusahaan seperti Nvidia, Broadcom, Meta Platforms, dan Google semuanya menunjukkan tren yang sama. "Pemenang AI di masa depan belum tentu perusahaan dengan prosesor tercepat, tetapi perusahaan yang dapat memindahkan data secara paling efisien di seluruh sistem," tulis para analis.

Implikasi bagi Investor dan Industri

Pergeseran paradigma ini dinilai sangat menguntungkan bagi perusahaan yang mampu mengoptimalkan seluruh tumpukan pergerakan data, bukan hanya yang memasok prosesor mandiri. Citi mengidentifikasi beberapa perusahaan yang berpotensi diuntungkan, antara lain:

Ad

• Nvidia (NASDAQ:NVDA)
• Broadcom (NASDAQ:AVGO)
• Arista Networks (NYSE:ANET)
• Marvell Technology (NASDAQ:MRVL)
• Lumentum (NASDAQ:LITE)
• Coherent (NYSE:COHR)
• Astera Labs (NASDAQ:ALAB)

Citi juga menyoroti konsep Nvidia tentang pusat data masa depan sebagai "pabrik AI". Fasilitas ini tidak lagi dirancang utamanya di sekitar server, melainkan di sekitar aliran data yang menghubungkan komputasi, memori, jaringan, dan penyimpanan. Ini dapat mengalihkan lebih banyak nilai infrastruktur AI ke perusahaan yang ahli dalam ekosistem pergerakan data.

Memori Menjadi Bagian dari Tantangan

Memori juga semakin menjadi bagian dari tantangan jaringan. Teknologi yang dipresentasikan oleh perusahaan seperti Samsung dan Cerebras bertujuan untuk menyimpan lebih banyak data di dekat lokasi pemrosesan. Tujuannya adalah untuk mengurangi jumlah data yang harus melewati interkoneksi yang padat.

Setiap *byte* data yang disimpan secara lokal akan mengurangi beban komunikasi. Oleh karena itu, peningkatan kapasitas memori, *bandwidth*, dan efisiensi kini terkait erat dengan kinerja jaringan secara keseluruhan.