Citi: Mạng lưới vượt qua sức mạnh tính toán, trở thành yếu tố then chốt mới trong cuộc đua AI

Công nghệ mạng lưới đang thay thế sức mạnh tính toán thô để trở thành yếuak tố hạn chế chính đối với hiệu suất trí tuệ nhân tạo (AI) khi các hệ thống ngày càng lớn và phức tạp hơn. Đây là nhận định của các nhà phân tích tại Citi sau khi tham dự hội nghị công nghệ Hot Chips.

Sự thay đổi trong nút thắt cổ chai của AI

Báo cáo của Citi chỉ ra rằng làn sóng phát triển cơ sở hạ tầng AI đầu tiên tập trung chủ yếu vào việc tăng tốc độ GPU, mở rộng bộ tăng tốc và nâng cao năng lực huấn luyện mô hình. Tuy nhiên, khi các hệ thống AI tiến tới quy mô hàng nghìn tỷ tham số, cửa sổ ngữ cảnh lớn hơn và các tác vụ tự hành phức tạp, việc di chuyển dữ liệu một cách hiệu quả giữa các con chip, máy chủ, và trung tâm dữ liệu đang trở thành nút thắt cổ chai lớn nhất.

Các bài thuyết trình từ những gã khổng lồ công nghệ như Nvidia, Broadcom, Meta Platforms, Google của Alphabet và Samsung đều cho thấy cùng một xu hướng. "Người chiến thắng trong cuộc đua AI tương lai không nhất thiết là công ty có bộ xử lý nhanh nhất, mà là công ty có thể di chuyển dữ liệu hiệu quả nhất trong toàn bộ hệ thống," các nhà phân tích của Citi nhấn mạnh.

Tác động đến các công ty công nghệ

Sự thay đổi này tạo ra một triển vọng đặc biệt tích cực cho các công ty có chuyên môn sâu về mạng lưới và truyền tải dữ liệu. Citi xác định một số công ty có thể hưởng lợi lớn, bao gồm:

Ad

• Nvidia (NVDA)
• Broadcom (AVGO)
• Arista Networks (ANET)
• Marvell Technology (MRVL)
• Lumentum (LITE)
• Coherent (COHR)
• Astera Labs (ALAB)

Citi cũng nhấn mạnh khái niệm "nhà máy AI" của Nvidia, nơi các trung tâm dữ liệu trong tương lai được thiết kế xoay quanh luồng dữ liệu chứ không chỉ là các máy chủ đơn lẻ. Điều này có thể dịch chuyển giá trị trong chuỗi cung ứng cơ sở hạ tầng AI sang các công ty có khả năng tối ưu hóa toàn bộ ngăn xếp di chuyển dữ liệu, thay vì chỉ cung cấp bộ xử lý độc lập.

Vai trò của bộ nhớ và kết nối liên thông

Bộ nhớ cũng ngày càng trở thành một phần của thách thức mạng lưới. Các công nghệ được trình bày bởi Samsung, XCENA và Cerebras tại hội nghị đều nhằm mục đích giữ nhiều dữ liệu hơn ở gần nơi nó được xử lý. Việc này giúp giảm lượng dữ liệu phải di chuyển qua các kết nối liên thông (interconnects) vốn đang bị tắc nghẽn.

Mỗi byte dữ liệu được giữ tại chỗ sẽ làm giảm chi phí giao tiếp, khiến cho việc cải thiện dung lượng, băng thông và hiệu quả của bộ nhớ có mối liên hệ chặt chẽ với hiệu suất mạng. Do đó, tối ưu hóa cả bộ nhớ và mạng lưới được xem là chìa khóa để khai phá tiềm năng tiếp theo của AI.