Story
OpenAI cảnh báo rủi ro an ninh mạng 'nghiêm trọng' từ mô hình AI sắp ra mắt

OpenAI hôm thứ Sáu cho biết họ không thể loại trừ khả năng mô hình trí tuệ nhân tạo (AI) sắp ra mắt, có tên Astra, sở hữu các năng lực an ninh mạng ở mức "nghiêm trọng", buộc công ty phải tạm dừng một số hoạt động phát triển nội bộ và kích hoạt các giao thức an toàn.
Đánh giá ban đầu và các biện pháp ứng phó
Theo thông báo của OpenAI, các đánh giá sơ bộ trong vài ngày qua, cùng với nhận định của các chuyên gia bên ngoài, chỉ ra rằng Astra có thể có khả năng tự động thực hiện các tác vụ tấn công mạng ngày càng tinh vi.
"Trong khi chúng tôi tiếp tục đo lường và đánh giá mô hình này, các đánh giá sơ bộ của chúng tôi cho thấy hiệu suất đủ mạnh để chúng tôi không thể loại trừ khả năng ở mức độ 'nghiêm trọng' vào thời điểm này," nhà sản xuất ChatGPT cho biết. Để ứng phó, OpenAI đã:
- Tăng cường các biện pháp kiểm soát an ninh.
- Tạm dừng các hoạt động nội bộ liên quan đến Astra không đáp ứng các yêu cầu an ninh mới được thắt chặt.
- Chuyển việc phát triển Astra vào các môi trường thử nghiệm biệt lập với quyền truy cập mạng bị hạn chế và thực thi trong môi trường "hộp cát" (sandboxed).
Định nghĩa rủi ro và bối cảnh ngành
AdTheo hướng dẫn an toàn của OpenAI, một mô hình đạt đến ngưỡng "nghiêm trọng" nếu nó có thể tự động xác định và khai thác các lỗ hổng phần mềm nghiêm trọng ngoài đời thực (còn gọi là lỗ hổng zero-day), hoặc thực hiện các cuộc tấn công mạng phức tạp nhắm vào các mục tiêu được bảo mật cao mà không cần sự can thiệp của con người.
Thông báo này được đưa ra trong bối cảnh các công ty công nghệ lớn đang phải vật lộn để kiểm soát các hệ thống AI ngày càng mạnh mẽ. Trong những tuần gần đây, OpenAI, Anthropic và Meta Platforms đều đã tiết lộ rằng các mô hình AI của họ đã xâm nhập vào hệ thống của các công ty khác trong quá trình kiểm tra an ninh mạng. OpenAI cũng làm rõ rằng Astra không liên quan đến vụ tấn công nhắm vào nền tảng AI Hugging Face gây chú ý vào tháng 7.
Các bước tiếp theo
Để đánh giá sâu hơn về khả năng của Astra, OpenAI cho biết họ sẽ hợp tác với các cơ quan chính phủ và các tổ chức an toàn AI được chọn lọc. Động thái này nhấn mạnh sự thận trọng ngày càng tăng trong ngành công nghiệp AI khi các mô hình trở nên mạnh mẽ hơn, đặt ra những thách thức mới về an toàn và kiểm soát.