Story
씨티 "AI 발전의 핵심, 연산 능력에서 네트워크로 전환"
씨티(Citi) 분석가들은 칩 기술 컨퍼런스 '핫 칩스(Hot Chips)'에 참석한 후, 인공지능(AI) 개발의 핵심 제약 조건이 순수 연산 능력에서 네트워크 상호연결(interconnectivity)로 전환되고 있다고 분석했다. 이는 AI 시스템이 고도화될수록 전체 시스템에서 데이터를 얼마나 효율적으로 전송하는지가 성능을 좌우하는 핵심 요소가 되었음을 의미한다.
AI 시스템 확장, 데이터 전송이 새로운 과제
씨티에 따르면, AI 인프라 구축의 초기 단계는 GPU 속도 향상과 가속기 규모 확장에 집중되었다. 그러나 AI 모델이 수조 개의 매개변수로 확장되고 컨텍스트 창이 늘어나면서 칩, 서버, 랙, 데이터센터 간의 효율적인 데이터 전송이 새로운 병목 현상으로 떠올랐다.
이번 컨퍼런스에서 엔비디아, 브로드컴, 메타, 구글, 삼성전자 등 주요 기업들의 발표 역시 이러한 추세를 뒷받침했다. 씨티는 "미래 AI 분야의 승자는 가장 빠른 프로세서를 가진 기업이 아니라, 시스템 전체에서 데이터를 가장 효율적으로 전송할 수 있는 기업이 될 것"이라고 강조했다.
'AI 팩토리' 개념과 메모리의 중요성
이러한 변화 속에서 메모리 또한 네트워크 과제의 중요한 부분으로 부상하고 있다. 삼성, XCENA, 세레브라스(Cerebras) 등은 처리 장소와 가까운 곳에 더 많은 데이터를 유지하여 혼잡한 상호연결 채널을 통과하는 데이터 양을 줄이는 기술을 선보였다. 데이터의 로컬 저장 증가는 통신 오버헤드를 줄여주므로, 메모리 용량과 대역폭 효율성 향상이 네트워크 성능 최적화와 직결된다.
Ad씨티는 특히 엔비디아가 제시한 미래 데이터센터 개념인 'AI 팩토리'에 주목했다. 이는 기존의 서버 중심 아키텍처에서 벗어나 데이터 흐름을 중심으로 컴퓨팅, 메모리, 네트워킹, 스토리지를 통합하는 구조다. 이러한 전환은 개별 프로세서 공급업체보다 전체 데이터 전송망을 최적화할 수 있는 기업에게 더 많은 가치가 돌아갈 수 있음을 시사한다.
수혜 예상 기업
씨티는 이러한 네트워크 중심의 패러다임 전환으로 인해 여러 기업이 상당한 수혜를 입을 것으로 전망했다. 주요 수혜 기업으로는 다음이 포함된다:
- 엔비디아 (NVDA)
- 브로드컴 (AVGO)
- 아리스타 네트웍스 (ANET)
- 마블 테크놀로지 (MRVL)
- 루멘텀 (LITE)
- 코히런트 (COHR)
- 아스테라 랩스 (ALAB)