Story
OpenAI Tạm Dừng Phát Triển Mô Hình AI 'Astra' Do Rủi Ro An Ninh Mạng Nghiêm Trọng

OpenAI đang tạm dừng một phần hoạt động phát triển nội bộ cho mô hình trí tuệ nhân tạo thế hệ tiếp theo của mình, sau khi các kết quả thử nghiệm sơ bộ cho thấy mô hình này có thể sở hữu khả năng tự động thực hiện các cuộc tấn công mạng phức tạp.
Trong một thông báo hôm thứ Năm, công ty khởi nghiệp có trụ sở tại San Francisco cho biết mô hình mới, với tên mã "Astra", đã thể hiện các khả năng lập trình và tấn công mạng tiên tiến, có nguy cơ chạm đến ngưỡng rủi ro "nghiêm trọng" do chính công ty đặt ra.
Nguy cơ ở mức "Nghiêm trọng"
Theo khuôn khổ an toàn của OpenAI, một hệ thống AI được xếp vào mức rủi ro "nghiêm trọng" nếu nó có khả năng tự mình phát hiện các "lỗ hổng zero-day" trong phần mềm hoặc thực hiện một cuộc tấn công end-to-end vào các mạng lưới an toàn mà không cần sự can thiệp của con người.
Sự gia tăng về năng lực này đánh dấu một bước tiến đáng kể so với các phiên bản trước. Theo OpenAI, các mô hình trước đây như GPT-5.6-Sol chỉ được đánh giá ở mức rủi ro "cao" và chưa từng chạm đến ngưỡng "nghiêm trọng".
Các biện pháp kiểm soát được áp dụng
AdĐối mặt với bước nhảy vọt về khả năng của Astra, OpenAI đã quyết định giới hạn việc phát triển tiếp theo của mô hình này trong các môi trường được cô lập và bảo vệ nghiêm ngặt. Công ty đã triển khai một loạt các biện pháp kiểm soát an toàn ngay lập tức:
- Tạm dừng quy trình: Mọi hoạt động phát triển nội bộ không có các biện pháp kiểm soát an ninh chặt chẽ đã bị đình chỉ hoàn toàn.
- Cơ chế ngăn chặn thời gian thực: Một hệ thống giám sát tự động mới được triển khai để theo dõi quá trình suy luận của mô hình và sẽ ngay lập tức can thiệp nếu phát hiện các hành vi bất thường hoặc nguy hiểm.
- Kiểm toán từ bên ngoài: OpenAI sẽ mời các cơ quan chính phủ và các tổ chức an ninh bên thứ ba để thực hiện các bài kiểm tra áp lực (stress test) đối với mô hình.
Bối cảnh và ý nghĩa
Động thái chủ động "phong tỏa" này phản ánh sự căng thẳng ngày càng tăng tại Thung lũng Silicon giữa cuộc đua thương mại hóa AI và việc kiểm soát các rủi ro an toàn tiềm ẩn. OpenAI nhấn mạnh rằng Astra hiện chưa được phát hành ra công chúng và không liên quan đến các sự cố an ninh AI gần đây.
Công ty cho rằng việc tạm dừng này là một minh chứng cho thấy cơ chế an toàn nội bộ của họ đang hoạt động hiệu quả. Nó cho phép xác định và kiểm soát các khả năng nguy hiểm ngay từ giai đoạn phát triển, trước khi chúng có thể được triển khai cho người dùng cá nhân hoặc khách hàng doanh nghiệp.