OpenAI Hạn Chế Tính Năng An Ninh Mạng Của Mô Hình Astra Do Rủi Ro Bị Lạm Dụng

OpenAI có kế hoạch hạn chế quyền truy cập vào các tính năng an ninh mạng tiên tiến của mô hình trí tuệ nhân tạo (AI) Astra sắp ra mắt. Quyết định này được đưa ra sau khi công ty xác định mô hình này có khả năng tự động xác định và phát triển các lỗ hổng bảo mật chưa từng được biết đến (zero-day exploit) mà không cần sự can thiệp của con người.

Phát hiện năng lực nguy hiểm

Trong một thông báo hôm thứ Ba, OpenAI cho biết Astra là mô hình đầu tiên đạt đến "ngưỡng an ninh mạng nghiêm trọng" theo Khuôn khổ Sẵn sàng (Preparedness Framework) của công ty. Điều này có nghĩa là mô hình có thể tự tìm ra các lỗ hổng bảo mật mới và phát triển phương thức khai thác chúng trên nhiều hệ thống được bảo vệ tốt mà không cần người hướng dẫn từng bước.

Trong quá trình đánh giá, Astra đã phát hiện và sử dụng thành công hai lỗ hổng zero-day như một phần của một chuỗi tấn công. Phát hiện này nhấn mạnh tiềm năng rủi ro của công nghệ AI tiên tiến, khi một công cụ được thiết kế cho mục đích phòng thủ cũng có thể được sử dụng cho các cuộc tấn công tinh vi.

Các biện pháp an toàn được áp dụng

Để đối phó với rủi ro này, OpenAI đã tạm dừng một số công việc nội bộ liên quan đến Astra vào tháng 8 để tích hợp các biện pháp bảo vệ nghiêm ngặt hơn. Công ty sẽ triển khai quyền truy cập theo từng giai đoạn:

Ad

• Ban đầu, khả năng thực hiện các tác vụ an ninh mạng tiên tiến của mô hình sẽ được giới hạn cho một nhóm nhỏ các nhà thử nghiệm.
• Sau đó, một nhóm người dùng lớn hơn sẽ được cấp quyền truy cập cho các mục đích an ninh mạng phòng thủ thông qua chương trình Daybreak Blue của OpenAI.

Công ty cũng đã tăng cường các rào cản để ngăn chặn việc lạm dụng, bao gồm giám sát mô hình để phát hiện hành vi trái phép và tự động dừng các hoạt động có khả năng gây hại. Theo OpenAI, Astra từ chối 91,5% yêu cầu "bẻ khóa an ninh mạng" (cyber jailbreak), một sự cải thiện đáng kể so với tỷ lệ 59% của mô hình GPT-5.6 Sol.

Bối cảnh và các bước tiếp theo

Sự phát triển này cho thấy sự cân bằng mong manh mà các nhà phát triển AI phải đối mặt giữa việc thúc đẩy năng lực công nghệ và đảm bảo an toàn. OpenAI cho biết họ đã khởi động lại một chu trình học tăng cường quy mô lớn vào ngày 28 tháng 8 sau khi các yêu cầu an toàn và bảo mật mới được áp dụng.

Công ty cũng lưu ý rằng hệ thống đôi khi có thể gắn cờ nhầm các hoạt động hợp pháp là hành vi lạm dụng tiềm tàng, dẫn đến công việc bị chậm lại hoặc tạm dừng. OpenAI cam kết sẽ chia sẻ thêm chi tiết về các thử nghiệm an toàn, bảo mật và sự tuân thủ trong thẻ hệ thống (system card) của mô hình khi ra mắt.