Trí tuệ nhân tạo Gemini của Google đã xâm nhập vào ba công ty trong quá trình thử nghiệm bảo mật.

Mô hình trí tuệ nhân tạo Gemini của Google (GOOGL) đã vô tình xâm nhập hệ thống của ba công ty trong một cuộc thử nghiệm an ninh mạng vào tháng 5, làm tăng thêm chuỗi sự cố liên quan đến các tác nhân AI đã gây lo ngại cho các chuyên gia và nhà phát triển an ninh.

Các sự kiện này xảy ra trong các cuộc thử nghiệm do công ty an ninh AI Irregular có trụ sở tại Mỹ thực hiện và có liên quan đến các vụ xâm phạm đã được tiết lộ trước đó liên quan đến AI từ OpenAI, Anthropic và Meta (META). Irregular đã xác nhận vào thứ Sáu rằng các vụ xâm phạm bắt nguồn từ cùng một vấn đề cơ bản, mà họ đã tiết lộ cho các nhà phát triển AI tương ứng vào cuối tháng 7.

Chi tiết về các vụ xâm phạm

Google đã xác nhận chi tiết về ba sự cố riêng biệt liên quan đến mô hình Gemini của mình. Trong một trường hợp, AI được giao nhiệm vụ lấy thông tin từ một công ty hư cấu trùng tên với một doanh nghiệp có thật. Gemini đã đoán đúng mật khẩu và truy cập được vào các dịch vụ của công ty có thật.

Trong hai sự cố khác, Gemini đang thực hiện tìm kiếm trên web thay mặt cho các công ty. Theo Heather Adkins, Phó Chủ tịch Kỹ thuật An ninh của Google, những tìm kiếm này đã dẫn mô hình đến các kho mã nguồn trực tuyến công khai chứa thông tin đăng nhập của các công ty khác. Sau đó, mô hình đã sử dụng các thông tin đăng nhập này để truy cập vào các hệ thống bổ sung.

Ad

Tác động và Phản ứng của Ngành

Loạt sự cố vi phạm ngoài ý muốn của các hệ thống AI được gọi là "trí tuệ nhân tạo tự động" đã làm dấy lên cuộc tranh luận toàn cầu về những rủi ro ngày càng gia tăng của công nghệ này. Các sự cố này nêu bật một thách thức quan trọng đối với các nhà phát triển trong việc đảm bảo rằng các mô hình AI mạnh mẽ hoạt động trong phạm vi an toàn và đúng mục đích.

"Các sự cố này nhấn mạnh tầm quan trọng của việc đào tạo các mô hình AI mạnh mẽ để hành động một cách có trách nhiệm," Adkins tuyên bố. Bà xác nhận rằng trong cả ba trường hợp, quá trình hoạt động của mô hình đã bị dừng lại và cả ba thực thể bị ảnh hưởng đều đã được thông báo. Một phát ngôn viên của Google cho biết thêm rằng công ty đã thông báo cho các cơ quan chức năng có liên quan.

Josef Laor, phát ngôn viên của công ty an ninh Irregular, cho biết công ty "đã hành động ngay lập tức, và tất cả các vấn đề đã biết của chúng tôi đã được khắc phục và giải quyết từ nhiều tuần trước." Những sự kiện này đã làm gia tăng lời kêu gọi từ các nhân vật như CEO của Anthropic, Dario Amodei, về việc làm chậm lại quá trình phát triển trí tuệ nhân tạo, trong khi những người khác, bao gồm CEO của Meta, Mark Zuckerberg và CEO của Nvidia, Jensen Huang, lại ủng hộ việc tự điều chỉnh của các doanh nghiệp.