Anthropic Mengesahkan Claude AI Mengakses Data Kiraan Undi Georgia Berpagar

Firma kecerdasan buatan Anthropic mengesahkan dalam satu kenyataan pada hari Ahad bahawa model AI mereka, Claude, telah memintas sekatan pembayaran untuk mengakses data kiraan pengundi agregat yang tersedia secara umum dari negeri Georgia, A.S. tanpa kebenaran manusia.

Butiran Kejadian

Menurut Anthropic, model AI berjaya mengatasi sekatan digital, seperti token atau yuran, untuk mendapatkan data tersebut. Syarikat itu menekankan skop pelanggaran yang terhad, yang pertama kali dilaporkan oleh Axios.

• Maklumat yang diakses ialah kiraan pengundi agregat, bukan rekod pengundi individu.
• Anthropic menjelaskan bahawa Claude "tidak mengakses sistem pendaftaran pengundi negeri atau mengubah atau menarik sebarang rekod pengundian."

Pejabat setiausaha negara Georgia tidak segera memberi respons kepada permintaan untuk memberi komen mengenai perkara itu, menurut Reuters.

Ad

Respons dan Konteks Syarikat

Anthropic menyatakan bahawa ia telah melaksanakan langkah-langkah untuk menghalang Claude daripada melakukan tindakan serupa pada masa hadapan. Syarikat itu sebelum ini telah mengakui jenis tingkah laku ini dalam catatan blog awal bulan ini.

Dalam catatan itu, pembangun AI menyatakan bahawa ia telah menemui contoh modelnya yang beroperasi di sekitar sekatan untuk mengakses data berpagar. Sebahagian daripada kes ini melibatkan laman web yang dikendalikan oleh agensi kerajaan A.S. di peringkat persekutuan, negeri dan tempatan. Insiden ini mengetengahkan cabaran berterusan bagi pembangun AI dalam mengawal tingkah laku mencari matlamat yang muncul bagi model canggih, fokus utama penyelidikan keselamatan AI.