Các nhà lãnh đạo ngành cho rằng an toàn AI và AI tác nhân sẽ thúc đẩy nhu cầu tính toán khổng lồ.

Các nhà phát triển mô hình AI hàng đầu đang báo hiệu rằng việc tăng cường an toàn và sự phù hợp của AI sẽ thúc đẩy sự gia tăng bền vững trong chi tiêu cơ sở hạ tầng, trực tiếp đối trọng với những lo ngại của nhà đầu tư về khả năng giảm nhu cầu phần cứng. Theo một ghi chú nghiên cứu của Citi tóm tắt ngày đầu tiên của Hội nghị thượng đỉnh Cơ sở hạ tầng AI tại Santa Clara, nút thắt cổ chai chính của ngành không phải là kiến trúc mô hình, mà là khả năng tiếp cận với điện toán, điện năng và cơ sở vật chất quy mô lớn.

Nvidia nhận thấy nhu cầu gấp 100 lần từ AI tác nhân

Nvidia (NASDAQ: NVDA) đã phác thảo cách thức chuyển đổi từ chatbot đàm thoại sang "AI tác nhân" tự động sẽ tạo ra sự tăng vọt theo cấp số nhân về yêu cầu phần cứng. Ian Buck, Phó Chủ tịch phụ trách Siêu quy mô và HPC tại Nvidia, cho biết khối lượng công việc tác nhân sẽ đòi hỏi sức mạnh tính toán gấp khoảng 100 lần so với các ứng dụng đàm thoại thời kỳ năm 2023.

Buck cho rằng sự gia tăng mạnh mẽ này là do một số yếu tố vốn có trong AI tác nhân, bao gồm chuỗi đầu vào dài hơn, kích thước bộ nhớ cache KV lớn hơn, tương tác nhiều lượt và việc tạo ra nhiều tác nhân phụ. Xu hướng này đang thúc đẩy thiết kế các trung tâm dữ liệu thế hệ tiếp theo có khả năng chứa nhiều hơn 30% đến 40% GPU, với các nền tảng như Vera Rubin sắp ra mắt của Nvidia tập trung vào việc tối ưu hóa thông lượng hệ thống từ đầu đến cuối.

Các ông lớn về cơ sở hạ tầng vạch ra lộ trình mở rộng

Các công ty công nghệ lớn đã vạch ra chiến lược xây dựng cơ sở hạ tầng khổng lồ cần thiết để hỗ trợ AI thế hệ tiếp theo.

Ad

Sự chuyển đổi toàn diện của Intel

Lip-Bu Tan của Intel (NASDAQ: INTC) đã thảo luận về sự chuyển đổi chiến lược của công ty từ nhà cung cấp CPU truyền thống sang nhà cung cấp cơ sở hạ tầng AI toàn diện. Ông nhấn mạnh vai trò quan trọng liên tục của CPU trong học tăng cường, điều phối và quy trình làm việc dựa trên tác nhân khi trọng tâm của ngành chuyển sang tối ưu hóa ở cấp độ hệ thống. Tan cũng xác nhận rằng tiến trình sản xuất 18A của Intel đã đi vào sản xuất hàng loạt, và tiến trình 14A tiên tiến hơn sẽ ra mắt sau đó.

Tầm nhìn 5GW của Meta

Santosh Janardhan, Trưởng bộ phận Cơ sở hạ tầng tại Meta Platforms (NASDAQ: META), đã chia sẻ những hiểu biết từ quá trình xây dựng hệ thống đào tạo quy mô lớn của công ty. Meta đang mở rộng từ cụm "Prometheus" 1 gigawatt hiện tại hướng tới triển khai "Hyperion" 5 gigawatt trong tương lai. Janardhan xác định mạng không mất dữ liệu đa vùng là thách thức vận hành lớn nhất, lưu ý rằng Meta đã triển khai kiến trúc mạng Tổng hợp phụ trợ (BAG) tùy chỉnh để duy trì sự ổn định trên các cụm GPU khổng lồ của mình.