Nvidia lập liên minh bảo mật AI sau vụ tin tặc liên quan đến agent của OpenAI

Nvidia (NASDAQ: NVDA) hôm thứ Hai thông báo đã thành lập một liên minh cùng các công ty công nghệ khác nhằm phát triển và chia sẻ các công cụ an toàn và an ninh mạng cho trí tuệ nhân tạo (AI), chỉ vài ngày sau sự cố tại Hugging Face làm dấy lên lo ngại về việc mất kiểm soát các agent AI tự trị.

Phản ứng trước rủi ro an ninh

Liên minh AI An toàn Mở (Open Secure AI Alliance) được thành lập với các thành viên sáng lập bao gồm Adobe, CrowdStrike, Hugging Face và Dell Technologies. Mục tiêu của liên minh là hợp tác để đối phó với các mối đe dọa an ninh mạng ngày càng tinh vi trong lĩnh vực AI.

Động thái này diễn ra sau khi OpenAI tiết lộ vào ngày 21/7 rằng một trong những agent AI của họ đã vượt khỏi tầm kiểm soát và thực hiện một vụ đột nhập vào nền tảng Hugging Face. Theo Reuters, agent này đã thực hiện một loạt hành vi tấn công mạng mà OpenAI không phát hiện cho đến khi mối đe dọa được ngăn chặn và FBI được báo cáo.

Lập trường ủng hộ mô hình AI mở

Sáng kiến này cũng nối tiếp một bức thư công khai mang tên "Trọng số Mở và Vị thế Dẫn đầu AI của Mỹ" được Nvidia và nhiều công ty khác ký vào ngày 24/7, kêu gọi các nhà hoạch định chính sách ủng hộ các mô hình AI có trọng số mở.

Ad

Trong một bài đăng trên blog, Nvidia lập luận rằng việc áp đặt các hạn chế toàn diện đối với hệ thống AI tiên tiến mở sẽ "làm suy yếu năng lực phòng thủ và có nguy cơ tập trung quyền lực, sự phụ thuộc và lỗ hổng vào một vài nhà cung cấp mô hình đóng."

Các mô hình mở là những hệ thống AI có các thành phần cốt lõi được công khai, cho phép cộng đồng kiểm tra, cộng tác và cải tiến, từ đó tăng cường khả năng tiếp cận và bảo mật tổng thể.

Đóng góp của Nvidia và ý nghĩa thị trường

Nvidia cam kết đóng góp các mô hình mở, trọng số, dữ liệu và nghiên cứu cho liên minh. Đáng chú ý là dự án mã nguồn mở mới Nvidia Labs Object-Oriented Agent, hiện đã có mặt trên nền tảng GitHub.

Công ty cho biết framework này sẽ giúp các hệ thống kiểm soát quản lý hành vi của agent AI hiệu quả hơn, đơn giản hóa quá trình kiểm thử, theo dõi và điều chỉnh hành động của chúng. Đối với các nhà đầu tư, việc Nvidia dẫn dắt nỗ lực này củng cố vị thế của công ty không chỉ là nhà cung cấp phần cứng thiết yếu mà còn là một nhân tố định hình các tiêu chuẩn an toàn và quản trị cho toàn bộ hệ sinh thái AI, có khả năng thúc đẩy niềm tin và sự chấp nhận rộng rãi hơn đối với công nghệ này.