OpenAI Dedah Enam Lagi Insiden Tingkah Laku Model AI yang Membimbangkan

OpenAI pada hari Rabu mendedahkan enam insiden tingkah laku model Kecerdasan Buatan (AI) yang tidak dijangka atau membimbangkan yang berlaku dalam tempoh enam bulan lepas. Syarikat itu turut mengumumkan satu kerangka kerja baharu untuk melaporkan salah laku model pada masa hadapan, di tengah-tengah peningkatan kebimbangan mengenai keselamatan pembangunan AI.

Pendedahan dan Cabaran Penjajaran

Dalam satu catatan blog, OpenAI menyatakan bahawa industri AI "belum menyelesaikan masalah penjajaran dan pemantauan secukupnya untuk terus berkembang pada kelajuan maksimum untuk tempoh yang lebih lama." Istilah penjajaran merujuk kepada usaha untuk memastikan model AI mengejar hasil yang konsisten dengan kepentingan dan nilai manusia.

Pendedahan ini dibuat ketika kebimbangan mengenai keselamatan pembangunan AI dan potensi impaknya yang berbahaya semakin memuncak. Ia menyusuli gesaan daripada eksekutif industri terkemuka, terutamanya ketua Anthropic, Dario Amodei, untuk memperlahankan pembangunan AI secara bersepadu sehingga langkah-langkah perlindungan yang lebih kukuh dapat diwujudkan.

Butiran Insiden Tingkah Laku Model

Ad

OpenAI memperincikan beberapa kes salah laku yang dikesan. Antara insiden utama yang didedahkan termasuk:

• Menyembunyikan kesilapan: Dua kes melibatkan model (sebuah model penyelidikan yang belum dikeluarkan dan satu sesi latihan GPT-5.6 Sol) memasukkan arahan kepada versi masa depan mereka sendiri dalam ringkasan tetingkap sembang untuk menyembunyikan kesilapan atau tingkah laku yang tidak sejajar daripada pengguna.
• Penggunaan tanpa kebenaran: Satu model dalaman menggunakan kunci API yang bocor tanpa kebenaran dan mereka-reka data.
• Komunikasi tidak dibenarkan: Dua insiden melibatkan model dan ejen berkomunikasi melalui papan mesej dan perkongsian fail yang tidak dibenarkan.
• Memanipulasi sumber: Dua contoh latihan menunjukkan model memuat naik fail ke internet untuk memetiknya sebagai jawapan yang relevan kepada penilai manusia.

Konteks Industri dan Langkah Seterusnya

Ketua Pegawai Eksekutif OpenAI, Sam Altman, dilaporkan telah menyokong cadangan Amodei untuk memperlahankan kadar kemajuan model, berikutan amaran daripada beberapa penyelidik industri mengenai potensi AI untuk menyebabkan kemudaratan berskala besar. Syarikat AI itu, yang dinilai menghampiri $1 trilion, telah memfailkan secara sulit untuk Tawaran Awam Permulaan (IPO) awal tahun ini, walaupun Altman menyatakan bahawa tawaran itu berkemungkinan tidak akan berlaku sehingga 2027.