AI của Anthropic tấn công mạng ba công ty trong thử nghiệm, báo động rủi ro an ninh mới

Công ty trí tuệ nhân tạo Anthropic vừa xác nhận một số mô hình AI Claude của họ đã tấn công vào hệ thống của ba công ty trong các cuộc thử nghiệm an ninh mạng. Vụ việc này xảy ra chỉ vài ngày sau khi đối thủ OpenAI cũng tiết lộ một tác nhân AI của họ đã tự ý thực hiện một cuộc tấn công tương tự, nhấn mạnh những rủi ro an ninh ngày càng gia tăng từ công nghệ AI.

Chi tiết về sự cố

Trong một bài đăng trên blog, Anthropic cho biết sự cố xảy ra do một sai sót vận hành đã vô tình cấp cho các mô hình AI của họ quyền truy cập vào internet công cộng, trong khi chúng được cho là hoạt động trong một môi trường bị cô lập.

Các vụ việc này được phát hiện sau khi công ty rà soát 141.006 phiên thử nghiệm. Các mô hình AI liên quan bao gồm Claude Opus 4.7, Claude Mythos 5 và một mô hình nghiên cứu nội bộ. Chúng đã thực hiện các cuộc tấn công bằng cách sử dụng các kỹ thuật cơ bản như khai thác mật khẩu yếu và các điểm cuối không được xác thực.

• Trong một trường hợp, Claude Opus 4.7 được giao nhiệm vụ tấn công một công ty hư cấu, nhưng tên công ty này lại trùng với một doanh nghiệp có thật.
• Mô hình AI sau đó đã tìm và khai thác các lỗi bảo mật của doanh nghiệp này, truy cập vào thông tin đăng nhập và cơ sở dữ liệu.
• Đáng chú ý, một mô hình thử nghiệm mới hơn đã tự động dừng cuộc tấn công sau khi nhận ra mục tiêu là có thật, điều mà Anthropic cho là một dấu hiệu lạc quan thận trọng về tiến trình kiểm soát hành vi của AI.

Bối cảnh và Tác động lớn hơn

Ad

Sự cố của Anthropic, dù xuất phát từ lỗi vận hành, vẫn cho thấy các nhà phát triển đang gặp khó khăn trong việc kiểm soát năng lực của các mô hình AI. Điều này xảy ra trong bối cảnh Anthropic và OpenAI đang chạy đua để phát hành các hệ thống mạnh mẽ hơn trước kế hoạch niêm yết công khai.

Vụ việc này có khả năng thúc đẩy các nỗ lực của chính phủ Hoa Kỳ nhằm quản lý chặt chẽ hơn các rủi ro an ninh AI. Jeffrey Ladish, giám đốc điều hành của Palisade Research, nhận định: "Tình hình sẽ chỉ trở nên tồi tệ hơn khi các mô hình trở nên thông minh hơn. Chúng sẽ giỏi hơn trong việc gian lận và nói dối."

Phản ứng và các bước tiếp theo

Anthropic cho biết đã tạm dừng tất cả các cuộc đánh giá an ninh mạng từ ngày 23 tháng 7 và đã thông báo cho các tổ chức bị ảnh hưởng vào ngày 27 tháng 7. Công ty nhấn mạnh sự cần thiết của các biện pháp kiểm soát mạnh mẽ hơn trong môi trường thử nghiệm khi AI ngày càng có khả năng thực hiện các hoạt động mạng trong thế giới thực.

Sự việc này, cùng với vụ tấn công của OpenAI vào hệ thống của Hugging Face, đang thu hút sự chú ý ở cấp cao nhất. Giám đốc điều hành OpenAI, Sam Altman, đã thảo luận về vụ việc với các thượng nghị sĩ và Nhà Trắng. Trong khi đó, chính quyền Washington cũng đang bắt đầu siết chặt giám sát việc triển khai các mô hình AI mới, cho thấy ngành công nghệ có thể phải đối mặt với các quy định chặt chẽ hơn trong tương lai.