Story
AI 발전의 핵심, 연산 능력에서 '네트워킹'으로 전환
인공지능(AI) 시스템이 더욱 거대해지고 복잡해짐에 따라, AI 성능의 핵심 제약 조건이 순수 연산 능력에서 네트워킹으로 이동하고 있다는 분석이 나왔습니다. 씨티(Citi) 분석가들은 '핫 칩스(Hot Chips)' 컨퍼런스에서 나타난 기술 동향을 바탕으로 이같이 진단했습니다.
AI 성능의 새로운 병목 현상
씨티에 따르면, AI 인프라 개발의 첫 번째 물결은 더 빠른 GPU, 더 큰 가속기, 더 많은 학습 용량 확보에 집중되었습니다. 하지만 AI 시스템이 수조 개의 파라미터, 더 큰 컨텍스트 창, 자율 에이전트 워크로드로 확장되면서 칩, 서버, 랙, 데이터센터 간의 효율적인 데이터 이동이 더 큰 병목 현상으로 부상하고 있습니다.
분석가들은 "미래 AI 시장의 승자는 가장 빠른 프로세서를 가진 회사가 아니라, 전체 시스템에서 데이터를 가장 효율적으로 이동시킬 수 있는 회사가 될 것"이라고 강조했습니다. 이는 AI 기술 패러다임의 중요한 변화를 시사합니다.
데이터 중심 설계로의 전환
이러한 추세는 핫 칩스 컨퍼런스에 참여한 여러 기업들의 발표에서도 확인되었습니다. 엔비디아, 브로드컴, 메타 플랫폼스, 알파벳의 구글, 삼성전자 등은 모두 데이터 이동 효율성의 중요성을 강조하는 기술을 선보였습니다.
Ad메모리 기술 또한 네트워킹 문제의 일부가 되고 있습니다. 삼성, XCENA, 세레브라스(Cerebras) 등이 제시한 기술은 더 많은 데이터를 처리 장소 가까이에 두어 혼잡한 상호 연결(interconnects)을 통해 이동하는 데이터 양을 줄이는 것을 목표로 합니다. 데이터의 국지성(locality)을 높이는 것이 네트워크 성능 향상과 직결되는 셈입니다.
시장 영향과 주목할 기업
씨티는 이러한 변화가 엔비디아의 'AI 팩토리' 개념과 일치한다고 지적했습니다. 미래의 데이터센터는 기존의 서버 중심 설계에서 벗어나 컴퓨팅, 메모리, 네트워킹, 스토리지, 보안을 연결하는 데이터 흐름 중심으로 설계될 것이라는 전망입니다.
이러한 패러다임 전환은 독립형 프로세서 공급업체보다 전체 데이터 이동 스택을 최적화할 수 있는 기업에 더 많은 가치를 부여할 수 있습니다. 씨티는 이러한 환경에서 긍정적인 전망을 가진 기업으로 다음을 꼽았습니다.
- 엔비디아 (Nvidia)
- 브로드컴 (Broadcom)
- 아리스타 네트웍스 (Arista Networks)
- 루멘텀 (Lumentum)
- 코히런트 (Coherent)
- 마벨 테크놀로지 (Marvell Technology)
- 아스테라 랩스 (Astera Labs)