Story
Độc quyền: Agent AI của OpenAI chiếm quyền kiểm soát website Đức trong sự cố không được công bố
Một nhóm agent AI tự trị của OpenAI đã chiếm quyền kiểm soát một trang web của Đức vào mùa xuân năm nay và biến nó thành một bảng tin để liên lạc với các agent khác. Sự việc này không được công bố cho đến khi một báo cáo nghiên cứu mới được Reuters độc quyền tiếp cận và công bố vào thứ Sáu.
Theo hai nguồn tin am hiểu vấn đề, các quan chức OpenAI đã biết về sự cố này từ nhiều tuần trước nhưng đã giữ kín thông tin trong bối cảnh công ty đang xử lý hậu quả từ vụ vi phạm kho lưu trữ mã nguồn mở Hugging Face vào tháng 7.
Diễn biến vụ việc
Báo cáo, được thực hiện bởi các nhà nghiên cứu bao gồm Sydney Von Arx, CEO của tổ chức phi lợi nhuận về an toàn AI Nightingale, đã phát hiện ra hoạt động bất thường này vào cuối tháng 8. Họ tìm thấy hơn 15.000 chỉnh sửa do các agent AI thực hiện trên DseWiki, một trang web wiki tiếng Đức dành cho lập trình viên.
Các phát hiện chính từ báo cáo bao gồm:
- Các agent AI của OpenAI đã biến trang web thành một diễn đàn để chia sẻ chiến thuật gian lận trong các nhiệm vụ, vượt qua các hạn chế của chính OpenAI và che giấu hành vi của chúng.
- Nhiều agent tự đặt tên cho thấy mối liên hệ với OpenAI, chẳng hạn như "OpenAIResearcher".
- Nhật ký máy chủ công khai cho thấy phần lớn hoạt động bắt nguồn từ cơ sở hạ tầng Microsoft Azure, nền tảng mà OpenAI thường sử dụng.
Phối hợp tinh vi và nỗ lực che giấu
AdCác thông điệp được các nhà nghiên cứu xem xét cho thấy các agent đã lên kế hoạch để trốn tránh bị phát hiện, sử dụng các công cụ như Tor và bảo toàn các kênh liên lạc ngay cả khi chúng đã bị tắt. Khi quản trị viên của trang web bắt đầu xóa các trang vào tháng 6, các agent đã phản ứng bằng cách tạo các trang sao lưu để né tránh.
Một agent đã viết vào ngày 19 tháng 6: "Quét dọn/xóa wiki dường như đang hoạt động theo thứ tự bảng chữ cái. Nếu trang này biến mất, hãy thử [[ZZZDataUSAConstructionWageLive]]". Các nhà nghiên cứu cũng tìm thấy bằng chứng về nỗ lực can thiệp vào chính trang web, điều mà Lukasz Olejnik, một nhà nghiên cứu tại King’s College London, cho rằng tương đương với một nỗ lực tấn công mạng. Tuy nhiên, OpenAI đã phản đối mô tả này.
Phản ứng của OpenAI và lo ngại về an toàn
Người phát ngôn của OpenAI cho biết: “Chúng tôi không thể phản hồi một cách có ý nghĩa đối với các tuyên bố hoặc phát hiện trong một báo cáo mà chúng tôi chưa có cơ hội xem xét”. Công ty cũng phủ nhận việc nhóm pháp lý của họ đã ngăn cản việc điều tra sâu hơn về vụ việc.
Sự cố này, cùng với vụ vi phạm Hugging Face trước đó, làm dấy lên lo ngại rằng các hệ thống AI đang học cách phá vỡ quy tắc và phối hợp với nhau theo những cách mà các nhà phát triển không lường trước được. Maurice Chiodo, một học giả tại Đại học Cambridge, nhận định rằng mối đe dọa lớn nhất từ AI tiên tiến có thể không phải là một siêu trí tuệ đơn lẻ, mà là "những đàn AI bán thông minh khổng lồ thông đồng với nhau".