Story
Keselamatan AI dan AI Agentik akan Memacu Permintaan Pengkomputeran yang Besar, Kata Peneraju Industri
Summary
Wawasan daripada Sidang Kemuncak Infrastruktur AI mendedahkan bahawa keperluan keselamatan AI yang lebih ketat dan peralihan kepada AI ejentik akan meningkatkan, bukan mengurangkan, permintaan untuk perkakasan pengkomputeran dengan ketara, menurut eksekutif industri tertinggi dan nota penyelidikan Citi.
Pembangun model AI terkemuka memberi isyarat bahawa peningkatan keselamatan dan kerja penjajaran AI akan memacu peningkatan berterusan dalam perbelanjaan infrastruktur, secara langsung mengatasi kebimbangan pelabur tentang potensi kelembapan dalam permintaan perkakasan. Menurut nota penyelidikan Citi yang meringkaskan hari pertama Sidang Kemuncak Infrastruktur AI di Santa Clara, kesesakan utama industri bukanlah seni bina model, tetapi akses kepada pengkomputeran, kuasa dan kemudahan berskala besar.
Nvidia Melihat Permintaan 100x ganda daripada Agentic AI
Nvidia (NASDAQ: NVDA) menggariskan bagaimana peralihan daripada chatbot perbualan kepada "agentic AI" autonomi dijangka mewujudkan lonjakan eksponen dalam keperluan perkakasan. Ian Buck, Naib Presiden Hyperscale dan HPC di Nvidia, menyatakan bahawa beban kerja agentic akan menuntut kira-kira 100 kali kuasa pengkomputeran aplikasi perbualan era 2023.
Buck mengaitkan peningkatan besar-besaran ini dengan beberapa faktor yang wujud dalam agentic AI, termasuk urutan input yang lebih panjang, saiz cache KV yang lebih besar, interaksi berbilang pusingan dan penjanaan berbilang sub-agen. Trend ini memacu reka bentuk untuk pusat data generasi akan datang yang mampu menempatkan 30% hingga 40% lebih banyak GPU, dengan platform seperti Vera Rubin Nvidia yang akan datang memberi tumpuan kepada pengoptimuman daya pemprosesan sistem hujung ke hujung.
Gergasi Infrastruktur Memperincikan Peta Jalan Penskalaan
Firma teknologi utama memperincikan strategi mereka untuk membina infrastruktur besar-besaran yang diperlukan untuk menyokong AI generasi akan datang.
AdTransformasi Tindanan Penuh Intel
Lip-Bu Tan dari Intel (NASDAQ: INTC) membincangkan peralihan strategik syarikat daripada pembekal CPU tradisional kepada pembekal infrastruktur AI tindanan penuh. Beliau menekankan peranan penting CPU yang berterusan dalam pembelajaran pengukuhan, orkestrasi dan aliran kerja agentik apabila tumpuan industri bergerak ke arah pengoptimuman peringkat sistem. Tan juga mengesahkan bahawa nod proses 18A Intel telah memasuki pengeluaran besar-besaran, dengan nod 14A yang lebih maju akan menyusul.
Visi 5GW Meta
Santosh Janardhan, Ketua Infrastruktur di Meta Platforms (NASDAQ: META), berkongsi pandangan daripada pembinaan latihan berskala besar syarikat itu. Meta sedang meningkatkan skala daripada kluster "Prometheus" 1-gigawatt semasa ke arah penggunaan 5-gigawatt "Hyperion" masa hadapan. Janardhan mengenal pasti rangkaian tanpa kehilangan berbilang rantau sebagai cabaran operasi terbesar, dengan menyatakan bahawa Meta telah menggunakan seni bina rangkaian Backend Aggregation (BAG) tersuai untuk mengekalkan kestabilan merentasi kluster GPUnya yang luas.