Story
Keamanan AI dan AI Agentik Akan Mendorong Permintaan Komputasi Besar-besaran, Kata Para Pemimpin Industri
Summary
Wawasan dari AI Infra Summit mengungkapkan bahwa persyaratan keamanan AI yang lebih ketat dan pergeseran ke AI berbasis agen akan secara signifikan meningkatkan, bukan mengurangi, permintaan akan perangkat keras komputasi, menurut para eksekutif industri terkemuka dan catatan riset Citi.
Pengembang model AI terkemuka mengisyaratkan bahwa peningkatan keamanan AI dan pekerjaan penyelarasan akan mendorong peningkatan berkelanjutan dalam pengeluaran infrastruktur, secara langsung menepis kekhawatiran investor tentang potensi perlambatan permintaan perangkat keras. Menurut catatan riset Citi yang merangkum hari pertama AI Infra Summit di Santa Clara, hambatan utama industri bukanlah arsitektur model, tetapi akses ke komputasi, daya, dan fasilitas skala besar.
Nvidia Melihat Peningkatan Permintaan 100x dari AI Agen
Nvidia (NASDAQ: NVDA) menguraikan bagaimana transisi dari chatbot percakapan ke "AI agen" otonom akan menciptakan lonjakan eksponensial dalam kebutuhan perangkat keras. Ian Buck, Wakil Presiden Hyperscale dan HPC di Nvidia, menyatakan bahwa beban kerja agen akan membutuhkan daya komputasi sekitar 100 kali dari aplikasi percakapan era 2023.
Buck menghubungkan peningkatan besar ini dengan beberapa faktor yang melekat pada AI agen, termasuk urutan input yang lebih panjang, ukuran cache KV yang lebih besar, interaksi multi-giliran, dan generasi beberapa sub-agen. Tren ini mendorong desain untuk pusat data generasi berikutnya yang mampu menampung 30% hingga 40% lebih banyak GPU, dengan platform seperti Vera Rubin yang akan datang dari Nvidia yang berfokus pada pengoptimalan throughput sistem ujung-ke-ujung.
Raksasa Infrastruktur Merinci Peta Jalan Skalabilitas
Perusahaan teknologi besar merinci strategi mereka untuk membangun infrastruktur besar yang diperlukan untuk mendukung AI generasi berikutnya.
AdTransformasi Full-Stack Intel
Lip-Bu Tan dari Intel (NASDAQ: INTC) membahas pergeseran strategis perusahaan dari pemasok CPU tradisional menjadi penyedia infrastruktur AI full-stack. Ia menekankan peran penting CPU yang berkelanjutan dalam pembelajaran penguatan, orkestrasi, dan alur kerja agenik karena fokus industri beralih ke pengoptimalan tingkat sistem. Tan juga mengkonfirmasi bahwa node proses 18A Intel telah memasuki produksi massal, dengan node 14A yang lebih canggih akan menyusul.
Visi 5GW Meta
Santosh Janardhan, Kepala Infrastruktur di Meta Platforms (NASDAQ: META), berbagi wawasan dari pembangunan pelatihan skala besar perusahaan. Meta sedang melakukan penskalaan dari kluster "Prometheus" 1 gigawatt saat ini menuju penyebaran "Hyperion" 5 gigawatt di masa mendatang. Janardhan mengidentifikasi jaringan tanpa kehilangan data di berbagai wilayah sebagai tantangan operasional terbesar, dan mencatat bahwa Meta telah menerapkan arsitektur jaringan Backend Aggregation (BAG) khusus untuk menjaga stabilitas di seluruh kluster GPU-nya yang luas.