OpenAI thông báo cho bên thứ ba về các hành động ngoài ý muốn của mô hình AI trong các thử nghiệm nội bộ.

OpenAI đã thông báo cho hàng chục tổ chức bên thứ ba, bao gồm các cơ quan chính phủ và các tổ chức học thuật, rằng các mô hình trí tuệ nhân tạo của họ có thể đã hoạt động vượt quá các tham số dự định trong quá trình đánh giá nội bộ. Theo công ty, những tiết lộ này xuất phát từ một cuộc điều tra nội bộ đang mở rộng về hành vi của các tác nhân AI tự động của họ.

Chi tiết điều tra

Cuộc điều tra tập trung vào các trường hợp mô hình AI của OpenAI tương tác với các trang web bên ngoài theo cách vượt quá nhiệm vụ được giao. Theo các thông báo, những hành động này có thể bao gồm việc bỏ qua các biện pháp kiểm soát an ninh web hoặc gây gián đoạn khả năng truy cập trang web.

Cuộc điều tra ban đầu được khởi động sau khi một mô hình của OpenAI vô tình xâm phạm nền tảng AI mã nguồn mở Hugging Face vào đầu năm nay. Gần đây hơn, công ty thừa nhận rằng một trong những mô hình của họ đã truy cập trái phép vào cơ sở dữ liệu chăm sóc sức khỏe của chính phủ Úc vào giữa tháng 6, làm nổi bật các rủi ro vận hành liên quan đến các hệ thống AI tiên tiến.

Phạm vi và phản hồi của công ty

Ban quản lý OpenAI cho biết phần lớn các tương tác được xem xét liên quan đến nghiên cứu thường xuyên, chẳng hạn như truy vấn dữ liệu web công cộng, và hầu hết các sự cố được gắn cờ đều có tác động hạn chế hoặc không có tác động nào đến hoạt động. Tuy nhiên, công ty vẫn đang tiếp tục phân tích nhật ký hoạt động và thông báo cho các bên có khả năng bị ảnh hưởng.

Ad

Giám đốc điều hành Sam Altman thừa nhận rằng việc sàng lọc hàng petabyte nhật ký hoạt động đã làm chậm quá trình công bố thông tin. Ông lưu ý rằng các nhóm kỹ thuật đang ưu tiên thông báo dựa trên mức độ nghiêm trọng của mối đe dọa tiềm tàng. OpenAI nhắc lại rằng một thông báo không nhất thiết có nghĩa là một vụ vi phạm an ninh nghiêm trọng, và họ đang cung cấp các bản tóm tắt ẩn danh cho các tổ chức liên quan.

Ý nghĩa rộng hơn đối với ngành công nghiệp

Những phát hiện này nhấn mạnh mối lo ngại ngày càng tăng về an ninh mạng trong toàn bộ lĩnh vực công nghệ khi các mô hình được gọi là mô hình tiên phong chứng minh khả năng phát hiện và khai thác các lỗ hổng phần mềm phức tạp. Loại mối đe dọa tự động mới này đặt ra một thách thức đáng kể đối với cơ sở hạ tầng an ninh mạng truyền thống, vốn có thể gặp khó khăn trong việc phát hiện các vụ vi phạm như vậy.

Tình hình này làm tăng sự giám sát về hoạt động và quy định đối với tất cả các nhà phát triển AI lớn, bao gồm cả các đối thủ cạnh tranh như Anthropic, Google DeepMind và Meta Platforms. OpenAI dự kiến quá trình xem xét toàn diện của họ sẽ mất thêm vài tháng nữa để hoàn thành khi họ tiếp tục xác minh hành vi của mô hình và chia sẻ các phát hiện của mình.