업계 리더들은 AI 안전 및 에이전트형 AI가 막대한 컴퓨팅 수요를 촉발할 것이라고 전망합니다.

주요 AI 모델 개발사들은 AI 안전성 및 정렬 작업 증가가 인프라 투자 증가를 견인할 것이라고 전망하며, 하드웨어 수요 둔화 가능성에 대한 투자자들의 우려를 정면으로 반박하고 있습니다. 샌타클라라에서 열린 AI 인프라 서밋 첫날을 요약한 씨티 연구 보고서에 따르면, 업계의 주요 병목 현상은 모델 아키텍처가 아니라 대규모 컴퓨팅, 전력 및 시설에 대한 접근성 부족입니다.

엔비디아, 에이전트형 AI 수요 100배 증가 전망

엔비디아(NASDAQ: NVDA)는 대화형 챗봇에서 자율적인 "에이전트형 AI"로의 전환이 하드웨어 수요를 기하급수적으로 증가시킬 것이라고 밝혔습니다. 엔비디아의 하이퍼스케일 및 HPC 부문 부사장인 이안 벅은 에이전트형 워크로드가 2023년 당시의 대화형 애플리케이션보다 약 100배의 컴퓨팅 성능을 요구할 것이라고 예측했습니다.

벅은 이러한 급격한 증가의 원인을 에이전트형 AI에 내재된 여러 요인, 즉 더 긴 입력 시퀀스, 더 큰 KV 캐시 크기, 다중 턴 상호 작용, 그리고 여러 하위 에이전트 생성 등에 있다고 설명했습니다. 이러한 추세는 차세대 데이터 센터 설계에 영향을 미치고 있으며, 차세대 데이터 센터는 기존보다 30%~40% 더 많은 GPU를 수용할 수 있도록 설계되고 있습니다. 엔비디아의 차세대 Vera Rubin과 같은 플랫폼은 엔드투엔드 시스템 처리량 최적화에 초점을 맞추고 있습니다.

인프라 대기업, 확장 로드맵 상세 발표

주요 기술 기업들은 차세대 AI를 지원하는 데 필요한 대규모 인프라 구축 전략을 상세히 발표했습니다.

Ad

인텔의 풀스택 전환

인텔(NASDAQ: INTC)의 립부 탄 CEO는 인텔이 전통적인 CPU 공급업체에서 풀스택 AI 인프라 제공업체로 전략적 전환을 추진하고 있다고 밝혔습니다. 그는 업계의 초점이 시스템 수준 최적화로 이동함에 따라 강화 학습, 오케스트레이션, 에이전트형 워크플로우에서 CPU의 핵심적인 역할이 여전히 중요하다고 강조했습니다. 탄은 인텔의 18A 공정 노드가 양산에 들어갔으며, 더욱 발전된 14A 노드도 곧이어 양산될 예정이라고 밝혔습니다.

Meta의 5GW 비전

Meta Platforms(NASDAQ: META)의 인프라 책임자인 산토시 자나르단은 회사의 대규모 교육 환경 구축에 대한 통찰력을 공유했습니다. Meta는 현재 1기가와트 규모의 "Prometheus" 클러스터에서 향후 5기가와트 규모의 "Hyperion" 클러스터 구축으로 확장하고 있습니다. 자나르단은 다중 지역 무손실 네트워킹이 가장 큰 운영 과제라고 지적하며, Meta가 방대한 GPU 클러스터 전반에 걸쳐 안정성을 유지하기 위해 맞춤형 백엔드 집계(BAG) 네트워크 아키텍처를 구축했다고 언급했습니다.