Story

OpenAI Tạm Dừng Phát Triển Model 'Astra' Do Rủi Ro An Ninh Mạng Nghiêm Trọng

ENTHMSVIIDZHZH-TWJAKOHI
Aug 7, 20263 min read
OpenAI Tạm Dừng Phát Triển Model 'Astra' Do Rủi Ro An Ninh Mạng Nghiêm Trọng
Text size
Background

OpenAI đã tạm dừng một phần quá trình phát triển nội bộ của mô hình trí tuệ nhân tạo thế hệ tiếp theo sau khi các thử nghiệm sơ bộ cho thấy phần mềm này có khả năng tự động thực hiện các cuộc tấn công mạng tinh vi. Công ty khởi nghiệp có trụ sở tại San Francisco cho biết mô hình sắp ra mắt, có tên mã 'Astra', đã thể hiện các kỹ năng lập trình và tấn công mạng tiên tiến có thể vượt qua ngưỡng rủi ro "Nguy cấp" (Critical) nội bộ của công ty.

Rủi ro vượt ngưỡng cho phép

Theo khuôn khổ an toàn do chính OpenAI đặt ra, một hệ thống AI được phân loại ở mức "Nguy cấp" nếu nó có thể tự mình khám phá ra các lỗ hổng phần mềm "zero-day" hoặc khởi động các cuộc tấn công toàn diện (end-to-end) vào các mạng lưới bảo mật mà không cần sự chỉ đạo của con người.

Động thái này cho thấy một bước nhảy vọt về năng lực so với các phiên bản trước. Theo OpenAI, các thế hệ công nghệ trước đây của họ, bao gồm cả GPT-5.6-Sol, chỉ đạt mức đánh giá rủi ro cao nhất là "Cao" (High). Công ty cũng làm rõ rằng Astra vẫn chưa được phát hành và không liên quan đến các vụ vi phạm an ninh AI gây chú ý gần đây.

Các biện pháp an toàn được siết chặt

Để đối phó với sự gia tăng năng lực này, OpenAI đã áp dụng các biện pháp kiểm soát nghiêm ngặt. Công ty đang giới hạn việc phát triển Astra trong các môi trường được bảo vệ nghiêm ngặt và cách ly hoàn toàn.

Sample IUX Markets – In-articleAd

Các biện pháp cụ thể bao gồm:

  • Tạm dừng các quy trình làm việc: Các hoạt động phát triển nội bộ không có các biện pháp kiểm soát an ninh chặt chẽ đã bị tạm dừng.
  • Giám sát thời gian thực: Các hệ thống giám sát tự động mới sẽ được triển khai để theo dõi các bước suy luận cơ bản của mô hình, cho phép tắt ngay lập tức các hành động nguy hiểm hoặc không mong muốn.
  • Kiểm toán từ bên ngoài: OpenAI đang mời các cơ quan chính phủ và các viện an toàn của bên thứ ba để thực hiện kiểm tra sức chịu đựng (stress-test) đối với mô hình.

Bối cảnh và Tác động

Việc chủ động tạm dừng này nhấn mạnh sự căng thẳng ngày càng tăng ở Thung lũng Silicon giữa cuộc đua thương mại hóa AI ngày càng mạnh mẽ và yêu cầu cấp thiết phải kiểm soát công nghệ này. Đối với các nhà đầu tư và thị trường, điều này cho thấy các công ty AI hàng đầu đang ngày càng nhận thức rõ hơn về các rủi ro tiềm tàng và sẵn sàng ưu tiên sự an toàn hơn là tốc độ phát triển.

OpenAI cho rằng việc tạm dừng này là bằng chứng cho thấy các hàng rào bảo vệ an toàn nội bộ của họ đang hoạt động đúng như dự kiến, giúp phát hiện các khả năng nguy hiểm trước khi công nghệ được triển khai cho công chúng hoặc khách hàng doanh nghiệp.

Back to latest news

LATEST