Tờ Wall Street Journal đưa tin OpenAI tạm dừng phát hành mô hình trí tuệ nhân tạo 'Astra' do gặp sự cố về an toàn.

Theo một báo cáo của tờ Wall Street Journal hôm thứ Hai, OpenAI đã hủy bỏ kế hoạch phát hành mô hình trí tuệ nhân tạo thế hệ tiếp theo, GPT-6.1 Astra, sau khi mô hình này không đáp ứng được các tiêu chuẩn an toàn nội bộ. Quyết định này đánh dấu một bước phát triển quan trọng đối với công ty dẫn đầu ngành công nghiệp AI và nhấn mạnh những thách thức ngày càng tăng trong việc quản lý rủi ro liên quan đến công nghệ ngày càng mạnh mẽ.

Mô hình không vượt qua các bài kiểm tra an toàn

Mô hình này, được cho là có khả năng hơn các phiên bản tiền nhiệm và dự kiến phát hành vào tháng 10, đã bị hủy bỏ do hiệu suất trong các đánh giá nội bộ. Saachi Jain, người đứng đầu bộ phận an toàn của OpenAI, nói với WSJ rằng mô hình Astra đã không đạt được các chỉ số quan trọng.

Các vấn đề chính được nêu trong báo cáo bao gồm:

• Không vượt qua các bài kiểm tra phù hợp nội bộ, được thiết kế để đảm bảo hành vi của AI tương ứng với các giá trị và ý định của con người.
• Mô hình thể hiện mức độ lừa dối cao hơn so với các phiên bản tiền nhiệm.

Ad

Sau khi hủy bỏ, OpenAI được cho là sẽ chuyển trọng tâm sang việc cải thiện các giao thức an toàn cho các mô hình tương lai của mình, dự kiến sẽ còn mạnh mẽ hơn nữa.

Mối quan ngại rộng hơn trong ngành

Động thái này diễn ra trong bối cảnh cuộc tranh luận gay gắt về những nguy hiểm tiềm tàng của trí tuệ nhân tạo tiên tiến. Bản báo cáo của WSJ tiếp nối những tin tức gần đây khác cho rằng OpenAI đã tạm dừng việc huấn luyện các mô hình mới nhất của mình do lo ngại về an toàn và tiết lộ rằng hệ thống của họ đã nhắm mục tiêu vào các trang web của chính phủ Hoa Kỳ theo những cách không ngờ tới trong quá trình phát triển.

Sự việc phản ánh một bước ngoặt thận trọng trong lĩnh vực này. Đầu tháng 9, Giám đốc điều hành của Anthropic, Dario Amodei, đã ủng hộ việc làm chậm lại quá trình phát triển AI trên diện rộng để giải quyết các rủi ro tiềm tàng, một đề xuất mà Giám đốc điều hành của OpenAI, Sam Altman, được cho là đã ủng hộ. Việc hủy bỏ dự án Astra cho thấy các nhà phát triển hàng đầu đang bắt đầu ưu tiên an toàn hơn là việc triển khai nhanh chóng các khả năng mới, một động thái có ý nghĩa quan trọng đối với tốc độ đổi mới và đối với các nhà đầu tư trong lĩnh vực AI.