Upaya Keamanan AI Akan Mendorong Peningkatan Permintaan Komputasi, Kata Para Pemimpin Industri

Upaya untuk meningkatkan keamanan dan keselarasan sistem kecerdasan buatan tingkat lanjut akan membutuhkan peningkatan daya komputasi yang signifikan, sebuah perkembangan yang diperkirakan akan mendorong permintaan lebih lanjut untuk perangkat keras AI. Wawasan penting ini dari para pengembang model terdepan di AI Infra Summit bertentangan dengan beberapa kekhawatiran investor bahwa peraturan keselamatan yang lebih ketat dapat menghambat pengeluaran infrastruktur, menurut catatan penelitian dari Citi.

Meningkatnya Biaya Keamanan AI

Diskusi di konferensi Santa Clara menyoroti bahwa hambatan utama bagi industri AI bukan lagi hanya arsitektur model tetapi kemampuan untuk mengamankan kapasitas komputasi, daya, dan fasilitas yang besar. Menurut laporan Citi, para pengembang mengungkapkan bahwa proses yang terkait dengan keselamatan sangat intensif komputasi.

Permintaan ini sudah memengaruhi desain infrastruktur, dengan pusat data generasi berikutnya yang direncanakan untuk mengakomodasi 30% hingga 40% lebih banyak GPU. Industri ini juga berfokus pada peningkatan efisiensi melalui platform orkestrasi perangkat lunak dan peningkatan perangkat keras seperti platform Vera Rubin Nvidia yang akan datang untuk memaksimalkan throughput tingkat sistem.

Nvidia: 'AI Agentik' 100x Lebih Menuntut

Ian Buck, Wakil Presiden Hyperscale dan HPC Nvidia Corp., menjelaskan bahwa pergeseran dari chatbot percakapan ke "AI agentik" yang lebih otonom menyebabkan lonjakan besar dalam kebutuhan perangkat keras. Berbicara di konferensi tersebut, Buck mencatat bahwa beban kerja agentik kira-kira 100 kali lebih menuntut daripada aplikasi obrolan yang umum pada tahun 2023.

Ad

Peningkatan eksponensial ini didorong oleh beberapa faktor:

• Panjang urutan input yang jauh lebih panjang
• Ukuran cache Key-Value (KV) yang lebih besar
• Interaksi multi-giliran yang lebih kompleks
• Pembuatan beberapa sub-agen untuk menyelesaikan tugas

Raksasa Infrastruktur Merinci Peta Jalan Skalabilitas

Perusahaan teknologi besar menguraikan strategi mereka untuk memenuhi permintaan yang terus meningkat ini. CEO Intel Corp., Lip-Bu Tan, merinci perubahan haluan perusahaan untuk menjadi penyedia infrastruktur AI full-stack, menekankan bahwa CPU tetap penting untuk pembelajaran penguatan dan alur kerja agentik. Tan juga mengkonfirmasi bahwa node proses 18A Intel sedang dalam produksi massal, dengan node 14A yang lebih canggih mendekati peluncurannya.

Sementara itu, Meta Platforms Inc. berencana melakukan ekspansi besar-besaran pada infrastruktur AI-nya, beralih dari klaster "Prometheus" yang saat ini berkapasitas lebih dari 1 gigawatt menuju infrastruktur "Hyperion" berkapasitas 5 gigawatt. Santosh Janardhan, Kepala Infrastruktur Meta, mengidentifikasi jaringan multi-wilayah tanpa kehilangan data sebagai hambatan operasional terbesar dalam ekspansi ini.