Usaha Keselamatan AI untuk Memacu Permintaan Pengkomputeran yang Lebih Tinggi, Kata Peneraju Industri

Usaha untuk meningkatkan keselamatan dan penjajaran sistem kecerdasan buatan canggih memerlukan peningkatan kuasa pengkomputeran yang ketara, satu perkembangan yang dijangka akan mendorong permintaan selanjutnya untuk perkakasan AI. Wawasan utama daripada pembangun model sempadan terkemuka di Sidang Kemuncak Infra AI ini bercanggah dengan kebimbangan beberapa pelabur bahawa peraturan keselamatan yang lebih ketat boleh menyekat perbelanjaan infrastruktur, menurut nota penyelidikan daripada Citi.

Kos Keselamatan AI yang Meningkat

Perbincangan di persidangan Santa Clara menekankan bahawa kesesakan utama bagi industri AI bukan lagi sekadar seni bina model tetapi keupayaan untuk menjamin kapasiti pengkomputeran, kuasa dan kemudahan yang besar. Menurut laporan Citi, pembangun mendedahkan bahawa proses berkaitan keselamatan sangat intensif pengkomputeran.

Permintaan ini telah mempengaruhi reka bentuk infrastruktur, dengan pusat data generasi akan datang dirancang untuk menampung 30% hingga 40% lebih banyak GPU. Industri ini juga tertumpu pada peningkatan kecekapan melalui platform orkestrasi perisian dan peningkatan perkakasan seperti platform Vera Rubin Nvidia yang akan datang untuk memaksimumkan daya pemprosesan peringkat sistem.

Nvidia: 'Agentic AI' 100x Lebih Mendesak

Ian Buck, Naib Presiden Hyperscale dan HPC Nvidia Corp., menjelaskan bahawa peralihan daripada chatbot perbualan kepada "agentic AI" yang lebih autonomi menyebabkan lonjakan besar dalam keperluan perkakasan. Berucap di sidang kemuncak itu, Buck menyatakan bahawa beban kerja agentic kira-kira 100 kali lebih mendesak daripada aplikasi sembang yang biasa pada tahun 2023.

Ad

Peningkatan eksponen ini didorong oleh beberapa faktor:

• Panjang jujukan input yang jauh lebih panjang
• Saiz cache Nilai Kunci (KV) yang lebih besar
• Interaksi berbilang pusingan yang lebih kompleks
• Penjanaan berbilang sub-agen untuk menyelesaikan tugas

Gergasi Infrastruktur Memperincikan Peta Jalan Penskalaan

Firma teknologi utama menggariskan strategi mereka untuk memenuhi permintaan yang semakin meningkat ini. Ketua Pegawai Eksekutif Intel Corp. Lip-Bu Tan memperincikan pangsi syarikat ke arah menjadi penyedia infrastruktur AI tindanan penuh, menekankan bahawa CPU kekal penting untuk pembelajaran pengukuhan dan aliran kerja agentic. Tan juga mengesahkan bahawa nod proses 18A Intel sedang dalam pengeluaran volum, dengan nod 14A yang lebih canggih semakin hampir dilancarkan.

Sementara itu, Meta Platforms Inc. sedang merancang pengembangan besar-besaran infrastruktur AInya, beralih daripada kluster "Prometheus" 1-gigawatt-plus semasa ke arah jejak "Hyperion" 5-gigawatt. Santosh Janardhan, Ketua Infrastruktur Meta, mengenal pasti rangkaian berbilang wilayah, tanpa kehilangan sebagai halangan operasi tunggal terbesar dalam pengembangan ini.