Story
Citi: Kết nối mạng trở thành nút thắt mới của AI, vượt qua sức mạnh tính toán
Theo các nhà phân tích của Citi, kết nối mạng đang nhanh chóng thay thế sức mạnh tính toán thô để trở thành nút thắt cổ chai cốt lõi trong hiệu suất của trí tuệ nhân tạo (AI) khi các hệ thống này ngày càng lớn và phức tạp hơn. Nhận định này được đưa ra sau khi các nhà phân tích tham dự hội nghị công nghệ chip Hot Chips.
Nút thắt cổ chai chuyển từ tính toán sang truyền dữ liệu
Giai đoạn đầu của việc xây dựng cơ sở hạ tầng AI chủ yếu tập trung vào việc tăng tốc độ GPU, mở rộng quy mô bộ tăng tốc và nâng cao khả năng huấn luyện. Tuy nhiên, xu hướng này đang thay đổi.
Khi các hệ thống AI tiến tới quy mô hàng nghìn tỷ tham số, cửa sổ ngữ cảnh ngày càng mở rộng và khối lượng công việc từ các tác nhân tự trị gia tăng, việc truyền dữ liệu hiệu quả giữa các chip, máy chủ, tủ rack và trung tâm dữ liệu đang trở thành một rào cản ngày càng lớn. Các nhà phân tích của Citi nhấn mạnh: "Những người chiến thắng trong lĩnh vực AI trong tương lai không nhất thiết là công ty có bộ xử lý nhanh nhất, mà là công ty có thể truyền dữ liệu hiệu quả nhất trong toàn bộ hệ thống."
Bộ nhớ cũng ngày càng trở thành một phần quan trọng của thách thức kết nối mạng. Các công nghệ được trình bày bởi Samsung, XCENA và Cerebras tại sự kiện đều nhằm mục đích giữ nhiều dữ liệu hơn ở gần nơi xử lý, qua đó giảm lượng dữ liệu cần truyền qua các kênh kết nối vốn đang tắc nghẽn.
Các công ty hưởng lợi và tương lai trung tâm dữ liệu
AdCiti cho rằng xu hướng này là một tín hiệu tích cực rõ rệt đối với một loạt các công ty trong chuỗi cung ứng, bao gồm:
- Nvidia (NASDAQ: NVDA)
- Broadcom (NASDAQ: AVGO)
- Arista Networks (NYSE: ANET)
- Marvell (NASDAQ: MRVL)
- Lumentum (NASDAQ: LITE)
- Coherent (NYSE: COHR)
- Astera Labs (NASDAQ: ALAB)
Các bài thuyết trình tại hội nghị từ nhiều gã khổng lồ công nghệ như Nvidia, Broadcom, Meta Platforms, Google của Alphabet và Samsung đều củng cố cho nhận định này.
Citi cũng nhấn mạnh khái niệm "Nhà máy AI" (AI Factory) trong tương lai do Nvidia đề xuất. Không giống như các trung tâm dữ liệu truyền thống có kiến trúc xoay quanh máy chủ, các cơ sở thế hệ mới này ngày càng được thiết kế xoay quanh luồng dữ liệu, tích hợp chặt chẽ các yếu tố tính toán, bộ nhớ, mạng, lưu trữ và bảo mật. Sự chuyển dịch này được cho là sẽ chuyển nhiều giá trị hơn trong cơ sở hạ tầng AI sang các công ty có khả năng tối ưu hóa toàn bộ chuỗi truyền dữ liệu, thay vì chỉ các nhà cung cấp bộ xử lý độc lập.