업계 관계자들은 AI 보안 강화 노력으로 컴퓨팅 수요가 증가할 것이라고 전망했습니다.

첨단 인공지능 시스템의 안전성과 정렬을 개선하기 위해서는 컴퓨팅 성능의 상당한 증대가 필요하며, 이는 AI 하드웨어에 대한 수요를 더욱 촉진할 것으로 예상됩니다. 시티은행의 연구 보고서에 따르면, AI 인프라 서밋에서 주요 첨단 모델 개발자들이 제시한 이러한 핵심적인 통찰은, 강화된 안전 규제가 인프라 투자 위축을 초래할 수 있다는 일부 투자자들의 우려와는 상반됩니다.

AI 안전 비용의 증가

산타클라라에서 열린 이번 컨퍼런스에서는 AI 산업의 주요 병목 현상이 더 이상 모델 아키텍처에만 국한되지 않고, 막대한 컴퓨팅 자원, 성능, 그리고 시설 용량 확보에 있다는 점이 강조되었습니다. 시티은행 보고서에 따르면, 개발자들은 안전 관련 프로세스가 매우 높은 컴퓨팅 성능을 요구한다고 밝혔습니다.

이러한 수요는 이미 인프라 설계에 영향을 미치고 있으며, 차세대 데이터 센터는 30~40% 더 많은 GPU를 수용하도록 계획되고 있습니다. 또한 업계는 소프트웨어 오케스트레이션 플랫폼과 엔비디아의 차세대 Vera Rubin 플랫폼과 같은 하드웨어 업그레이드를 통해 시스템 수준의 처리량을 극대화하여 효율성을 높이는 데 집중하고 있습니다.

엔비디아: '에이전트 AI'는 100배 더 높은 요구 사양을 필요로 한다

엔비디아의 하이퍼스케일 및 HPC 부문 부사장인 이안 벅은 대화형 챗봇에서 자율적인 "에이전트 AI"로의 전환이 하드웨어 요구 사양의 급증을 야기하고 있다고 설명했습니다. 이번 서밋에서 벅 부사장은 에이전트 기반 워크로드가 2023년에 흔히 사용되는 채팅 애플리케이션보다 약 100배 더 높은 요구 사양을 필요로 한다고 지적했습니다.

Ad

이러한 기하급수적인 증가는 다음과 같은 여러 요인에 의해 발생합니다.

• 입력 시퀀스 길이의 현저한 증가
• 키-값(KV) 캐시 크기 증가
• 더욱 복잡해진 다중 턴 상호작용
• 작업을 완료하기 위한 여러 하위 에이전트 생성

주요 인프라 기업들, 확장 로드맵 발표

주요 기술 기업들은 이러한 증가하는 수요를 충족하기 위한 전략을 발표했습니다. 인텔의 CEO인 립부 탄은 회사가 풀스택 AI 인프라 제공업체로 전환하는 전략을 설명하며, 강화 학습 및 에이전트 기반 워크플로에 CPU가 여전히 중요하다고 강조했습니다. 탄은 인텔의 18A 공정 노드가 양산 중이며, 더욱 발전된 14A 노드도 출시가 임박했다고 확인했습니다.

한편, Meta Platforms Inc.는 현재 1기가와트 이상의 "Prometheus" 클러스터에서 5기가와트 규모의 "Hyperion" 클러스터로 AI 인프라를 대폭 확장할 계획입니다. Meta의 인프라 책임자인 산토시 자나르단은 이러한 확장에서 가장 큰 운영상의 난관으로 다중 지역 무손실 네트워킹을 꼽았습니다.