Analis Citi: Interkonektivitas Jaringan Jadi Hambatan Utama Baru dalam Pengembangan AI

Seiring dengan meningkatnya skala dan kompleksitas sistem kecerdasan buatan (AI), interkonektivitas jaringan kini menggantikan kekuatan komputasi mentah sebagai hambatan utama yang membatasi kinerja AI. Penilaian ini disampaikan oleh para analis dari Citi setelah menghadiri konferensi teknologi chip Hot Chips.

Pergeseran Hambatan Kinerja AI

Analis Citi mencatat bahwa fase pertama pembangunan infrastruktur AI sebagian besar berfokus pada peningkatan kecepatan GPU, perluasan skala akselerator, dan penguatan kapasitas pelatihan model. Namun, lanskap ini berubah seiring evolusi sistem AI menuju skala triliunan parameter, jendela konteks yang lebih besar, dan beban kerja agen otonom yang semakin kompleks.

Kini, tantangan utamanya adalah bagaimana mentransfer data secara efisien antar-chip, server, rak, dan pusat data. Kemampuan untuk memindahkan data dalam jumlah besar dengan cepat dan andal telah menjadi faktor pembatas yang lebih signifikan dibandingkan dengan kecepatan pemrosesan itu sendiri.

Pemenang di Era Baru AI

Citi berpendapat bahwa tren ini merupakan keuntungan positif yang jelas bagi sejumlah perusahaan teknologi. Perusahaan-perusahaan yang diuntungkan antara lain Nvidia (NASDAQ: NVDA), Broadcom (NASDAQ: AVGO), Arista Networks (NYSE: ANET), Lumentum (NASDAQ: LITE), Coherent (NASDAQ: COHR), Marvell (NASDAQ: MRVL), dan Astera Labs (NASDAQ: ALAB).

Ad

"Pemenang di masa depan AI belum tentu perusahaan dengan prosesor tercepat, melainkan yang mampu memindahkan data secara paling efisien di seluruh sistem," tulis para analis. Pandangan ini didukung oleh presentasi dari berbagai raksasa teknologi seperti Nvidia, Broadcom, Meta Platforms, Google milik Alphabet, dan Samsung di konferensi tersebut.

Peran Memori dan Konsep "Pabrik AI"

Memori juga menjadi bagian penting dari tantangan interkonektivitas. Teknologi yang dipamerkan oleh Samsung, XCENA, dan Cerebras bertujuan untuk menempatkan lebih banyak data di dekat unit pemrosesan. Tujuannya adalah untuk mengurangi volume data yang perlu ditransmisikan melalui jalur interkoneksi yang padat.

Citi juga menyoroti konsep "Pabrik AI" yang diusulkan oleh Nvidia. Berbeda dengan pusat data tradisional yang berpusat pada server, fasilitas generasi baru ini dirancang berdasarkan aliran data, yang mengintegrasikan komputasi, memori, jaringan, penyimpanan, dan keamanan. Pergeseran ini dinilai akan mengalihkan lebih banyak nilai dalam infrastruktur AI ke perusahaan yang mampu mengoptimalkan seluruh rantai transfer data, bukan hanya pemasok prosesor individual.