Crusoe và Perplexity công bố thỏa thuận hạ tầng AI đa năm, sử dụng chip NVIDIA GB300

Crusoe và công ty khởi nghiệp về công cụ tìm kiếm AI Perplexity đã công bố một thỏa thuận hợp tác chiến lược đa năm, theo đó Crusoe sẽ cung cấp hạ tầng đám mây cho các mô hình AI của Perplexity. Thỏa thuận này cho thấy sự hợp tác ngày càng sâu sắc giữa các nhà cung cấp hạ tầng chuyên dụng và các công ty phát triển AI hàng đầu.

Chi tiết thỏa thuận

Theo các điều khoản được công bố hôm thứ Ba, Perplexity sẽ vận hành toàn bộ vòng đời mô hình của mình trên nền tảng Crusoe Cloud. Điều này bao gồm hai hoạt động chính:

• Huấn luyện mô hình: Perplexity sẽ huấn luyện các mô hình AI tiên phong trên các cụm máy chủ được trang bị NVIDIA GB300 NVL72 và giải pháp NVIDIA InfiniBand.
• Triển khai suy luận: Các mô hình sau khi huấn luyện sẽ được triển khai thông qua dịch vụ Suy luận được Quản lý (Managed Inference) của Crusoe, được thiết kế để tối ưu hóa hiệu suất và chi phí.

Đổi lại, Crusoe sẽ triển khai các gói dịch vụ Perplexity Enterprise Pro và Max cho 1.800 nhân viên của mình. Nền tảng của Perplexity sẽ được sử dụng cho các tác vụ tìm kiếm kiến thức nội bộ và trên web, phân tích dữ liệu và nghiên cứu chuyên sâu.

Tầm quan trọng chiến lược

Ad

Thỏa thuận này nhấn mạnh nhu cầu về hạ tầng AI hiệu suất cao và có khả năng mở rộng nhanh chóng. Chase Lochmiller, đồng sáng lập và CEO của Crusoe, cho biết: "Các công ty AI phát triển nhanh nhất cần một cơ sở hạ tầng có thể bắt kịp trên toàn bộ vòng đời của mô hình và mở rộng cùng với họ."

Aravind Srinivas, đồng sáng lập và CEO của Perplexity, nhấn mạnh tầm quan trọng của hiệu suất đối với người dùng cuối. "Vận hành AI ở quy mô của Perplexity có nghĩa là mỗi mili giây độ trễ đều ảnh hưởng đến trải nghiệm người dùng. Crusoe được xây dựng chính xác để giải quyết vấn đề đó. Đó là suy luận có thông lượng cao, độ trễ thấp được hỗ trợ bởi phần cứng thế hệ mới," ông nói.

Bối cảnh và công nghệ

Sự hợp tác này cũng nêu bật vai trò trung tâm của công nghệ NVIDIA trong cuộc đua phát triển AI. Dion Harris, Giám đốc cấp cao về Giải pháp Hạ tầng HPC và AI tại NVIDIA, cho biết quan hệ đối tác này cho phép Perplexity "huấn luyện, tinh chỉnh và phục vụ các mô hình tiên phong với công nghệ NVIDIA GB300 NVL72 và NVIDIA InfiniBand."

Việc Perplexity lựa chọn Crusoe Cloud cho thấy sự phát triển của một thị trường hạ tầng AI chuyên biệt, nơi các nhà cung cấp như Crusoe cạnh tranh để cung cấp các giải pháp tối ưu hóa cho các khối lượng công việc AI cụ thể, thay vì các dịch vụ đám mây đa dụng truyền thống.