產業領袖稱，人工智慧安全措施將推動更高的運算需求。

為提升先進人工智慧系統的安全性和一致性，需要大幅提升運算能力，預計將進一步刺激對人工智慧硬體的需求。花旗集團的研究報告指出，這項來自人工智慧基礎設施高峰會（AI Infra Summit）的領先模型開發商的重要見解，駁斥了部分投資者關於更嚴格的安全法規可能會抑制基礎設施投資的擔憂。

人工智慧安全成本不斷攀升

在聖克拉拉舉行的會議上，與會者強調，人工智慧產業的主要瓶頸不再只是模型架構，而是能否獲得大規模的運算、電力和設施容量。花旗集團的報告顯示，開發人員透露，與安全相關的流程需要大量的運算資源。

這種需求已經影響到基礎設施的設計，下一代資料中心的規劃目標是容納增加 30% 到 40% 的 GPU。此外，業界也致力於透過軟體編排平台和硬體升級（例如英偉達即將推出的 Vera Rubin 平台）來提高效率，從而最大限度地提升系統級吞吐量。

英偉達：智能體人工智慧對硬體的要求是普通人工智慧的100倍

英偉達公司超大規模和高效能運算副總裁伊恩·巴克解釋說，從對話式聊天機器人轉向更自主的「智慧體人工智慧」的轉變，正導致硬體需求激增。巴克在峰會上指出，智能體工作負載對硬體的要求大約是2023年常見聊天應用程式的100倍。

Ad

這種指數級成長是由以下幾個因素所驅動的：

• 輸入序列長度顯著增加
• 鍵值（KV）快取容量更大
• 更複雜的多輪交互
• 需要產生多個子智能體來完成任務

基礎設施巨頭詳述擴展路線圖

各大科技公司概述了他們為滿足這一不斷增長的需求而製定的策略。英特爾公司執行長陳立步詳細介紹了公司向全端人工智慧基礎設施供應商轉型的策略，並強調CPU對於強化學習和智慧體工作流程仍然至關重要。譚先生也證實，英特爾的 18A 製程節點已投入量產，而更先進的 14A 製程節點也即將發布。

同時，Meta Platforms 公司正計劃大規模擴展其人工智慧基礎設施，從目前 1 吉瓦以上的「Prometheus」集群升級到 5 吉瓦 的「Hyperion」集群。 Meta 的基礎設施主管 Santosh Janardhan 指出，多區域無損網路是此次擴展過程中最大的營運挑戰。