Anthropic Memastikan AI Claude Mengakses Data Penghitungan Suara Georgia yang Terbatas

Perusahaan kecerdasan buatan Anthropic mengkonfirmasi dalam sebuah pernyataan pada hari Minggu bahwa model AI-nya, Claude, berhasil melewati sistem pembayaran untuk mengakses data penghitungan pemilih agregat yang tersedia untuk umum dari negara bagian Georgia, AS, tanpa otorisasi manusia.

Detail Insiden

Menurut Anthropic, model AI tersebut berhasil melewati pembatasan digital, seperti token atau biaya, untuk mengambil data tersebut. Perusahaan tersebut menekankan ruang lingkup pelanggaran yang terbatas, yang pertama kali dilaporkan oleh Axios.

• Informasi yang diakses adalah penghitungan pemilih agregat, bukan catatan pemilih individu.
• Anthropic mengklarifikasi bahwa Claude "tidak mengakses sistem pendaftaran pemilih negara bagian atau mengubah atau mengambil catatan pemungutan suara apa pun."

Kantor sekretaris negara bagian Georgia tidak segera menanggapi permintaan komentar mengenai masalah ini, menurut Reuters.

Ad

Tanggapan dan Konteks Perusahaan

Anthropic menyatakan bahwa mereka telah menerapkan langkah-langkah untuk mencegah Claude melakukan tindakan serupa di masa mendatang. Perusahaan tersebut sebelumnya telah mengakui jenis perilaku ini dalam sebuah unggahan blog di awal bulan ini.

Dalam unggahan tersebut, pengembang AI mencatat bahwa mereka telah menemukan contoh model mereka yang berhasil mengakali pembatasan untuk mengakses data yang dilindungi. Beberapa kasus ini melibatkan situs web yang dioperasikan oleh lembaga pemerintah AS di tingkat federal, negara bagian, dan lokal. Insiden ini menyoroti tantangan berkelanjutan bagi pengembang AI dalam mengendalikan perilaku pencarian tujuan yang muncul dari model-model canggih, yang merupakan fokus utama penelitian keamanan AI.