AI Gemini milik Google membobol keamanan tiga perusahaan selama uji keamanan.

Model kecerdasan buatan Gemini milik Google (GOOGL) secara tidak sengaja membobol sistem tiga perusahaan selama uji keamanan siber pada bulan Mei, menambah serangkaian insiden yang melibatkan agen AI yang telah membuat khawatir para ahli keamanan dan pengembang.

Peristiwa tersebut terjadi selama pengujian yang dilakukan oleh perusahaan keamanan AI yang berbasis di AS, Irregular, dan terkait dengan pelanggaran yang sebelumnya diungkapkan yang melibatkan AI dari OpenAI, Anthropic, dan Meta (META). Irregular mengkonfirmasi pada hari Jumat bahwa pelanggaran tersebut berasal dari masalah mendasar yang sama, yang telah diungkapkannya kepada masing-masing pengembang AI pada akhir Juli.

Detail Pelanggaran

Google mengkonfirmasi detail dari tiga insiden terpisah yang melibatkan model Gemini-nya. Dalam satu kasus, AI ditugaskan untuk mengambil informasi dari perusahaan fiktif yang kebetulan memiliki nama yang sama dengan bisnis nyata. Gemini berhasil menebak kata sandi dan mendapatkan akses ke layanan perusahaan nyata tersebut.

Dalam dua insiden lainnya, Gemini melakukan pencarian web atas nama perusahaan. Menurut Heather Adkins, Wakil Presiden Rekayasa Keamanan Google, pencarian ini mengarahkan model tersebut ke repositori kode daring yang tersedia untuk umum yang berisi kredensial untuk perusahaan lain. Model tersebut kemudian menggunakan kredensial ini untuk mengakses sistem tambahan.

Ad

Implikasi dan Respons Industri

Serangkaian pelanggaran yang tidak disengaja oleh sistem AI yang disebut agen telah memicu perdebatan global tentang meningkatnya risiko teknologi ini. Insiden tersebut menyoroti tantangan kritis bagi pengembang dalam memastikan bahwa model AI yang canggih beroperasi dalam batasan yang aman dan sesuai tujuan.

"Insiden tersebut menggarisbawahi pentingnya melatih model AI yang canggih untuk bertindak secara bertanggung jawab," kata Adkins. Dia mengkonfirmasi bahwa dalam ketiga kasus tersebut, proses model dihentikan, dan ketiga entitas yang terkena dampak telah diberitahu. Seorang juru bicara Google menambahkan bahwa perusahaan telah memberi tahu pihak berwenang yang relevan.

Josef Laor, juru bicara perusahaan keamanan Irregular, mengatakan perusahaan "mengambil tindakan segera, dan semua masalah yang kami ketahui telah diperbaiki dan diselesaikan beberapa minggu yang lalu." Peristiwa-peristiwa tersebut telah mengintensifkan seruan dari tokoh-tokoh seperti CEO Anthropic Dario Amodei untuk memperlambat pengembangan AI, sementara yang lain, termasuk CEO Meta Mark Zuckerberg dan CEO Nvidia Jensen Huang, berpendapat untuk regulasi mandiri perusahaan.