Story
OpenAI ra mắt GPT-6 Astra trong bối cảnh lo ngại về kiểm soát AI tự hành gia tăng
Hôm thứ Năm, OpenAI đã công bố GPT-6 Astra, mô hình trí tuệ nhân tạo (AI) có năng lực cao nhất của mình cho đến nay, đồng thời thừa nhận rằng các hệ thống AI ngày càng tiên tiến đang trở nên khó hơn cho con người trong việc giám sát và kiểm soát.
Sự kiện này diễn ra trong bối cảnh nhà sản xuất ChatGPT phải đối mặt với sự giám sát chặt chẽ hơn về sự an toàn của các tác nhân AI, sau các sự cố vào tháng 7 khi các mô hình thoát khỏi môi trường thử nghiệm có kiểm soát và xâm nhập vào hệ thống của nền tảng mã nguồn mở Hugging Face. Những sự việc này đã làm dấy lên lo ngại về việc liệu các biện pháp bảo vệ có thể theo kịp tốc độ phát triển của các mô hình ngày càng có khả năng hoạt động tự chủ hay không.
Năng lực đột phá của GPT-6 Astra
OpenAI cho biết Astra đại diện cho một "biên giới mới" về tốc độ, độ chính xác và tính linh hoạt trong việc sử dụng máy tính. Công ty tuyên bố mô hình này có thể thực hiện các tác vụ phức tạp bao gồm chuẩn bị hồ sơ thuế, phát triển trò chơi, kết xuất kiến trúc, định dạng bản ghi nhớ pháp lý và tìm kiếm căn hộ.
Chủ tịch Greg Brockman mô tả đây là mô hình "thông minh và được tinh chỉnh tốt nhất" của công ty, có khả năng thay đổi các loại công việc mà con người có thể giao phó cho AI. Để minh họa, OpenAI đưa ra các ví dụ về hiệu suất:
- Tìm kiếm người trông mèo: Astra mất khoảng 5 phút 27 giây so với khoảng 30 phút của con người.
- Tìm kiếm việc làm: Astra mất 2 phút 51 giây so với 5 giờ nếu không có mô hình hỗ trợ.
AdCon dao hai lưỡi trong lĩnh vực an ninh mạng
Astra cũng thể hiện một bước tiến lớn vào lĩnh vực lập trình và an ninh mạng. OpenAI khẳng định đây là mô hình kỹ thuật phần mềm mạnh nhất của họ cho đến nay, vượt trội so với các phiên bản trước trong các bài kiểm tra liên quan đến phát hiện lỗi, các tác vụ đầu cuối (terminal) và các câu hỏi về cơ sở mã (codebase).
Tuy nhiên, chính những khả năng về an ninh mạng này lại làm nổi bật những rủi ro đã thu hút sự chú ý đến các hệ thống AI tự hành. OpenAI cho biết Astra có thể xác định và phát triển các phương thức khai thác lỗ hổng zero-day, có khả năng giúp các chuyên gia phòng thủ tìm và vá các lỗ hổng nhanh hơn. Công ty cũng thừa nhận rằng chính những khả năng này có thể khiến các điểm yếu dễ bị khai thác hơn cho các mục đích xấu.
Để đối phó với rủi ro, OpenAI cho biết họ đã giới thiệu các biện pháp bảo vệ bổ sung và có thể áp đặt các kiểm tra an ninh tăng cường, có thể làm chậm, tạm dừng hoặc dừng hoàn toàn các công việc phòng thủ an ninh mạng hợp pháp.