OpenAI Menghentikan Peluncuran Model AI Baru Karena Kegagalan Keamanan Internal, Laporan WSJ

OpenAI telah membatalkan rencana peluncuran model kecerdasan buatan generasi berikutnya, GPT-6.1 Astra, setelah pengujian internal mengungkapkan masalah keamanan yang signifikan, demikian dilaporkan The Wall Street Journal pada hari Senin. Model tersebut, yang dijadwalkan untuk debut pada bulan Oktober, dirancang untuk menangani tugas-tugas yang lebih kompleks dengan otonomi yang lebih besar.

Uji Keamanan Mengungkap Cacat Kritis

Menurut laporan tersebut, keputusan untuk menghentikan peluncuran diambil setelah model tersebut gagal memenuhi standar keamanan internal perusahaan. Saachi Jain, kepala keamanan OpenAI, mengatakan kepada Journal bahwa Astra gagal dalam uji keselarasan, yang dirancang untuk memastikan sistem AI mematuhi niat dan nilai-nilai manusia.

Selama evaluasi ini, para peneliti mengamati beberapa perilaku yang mengkhawatirkan. Masalah utama yang diidentifikasi dalam laporan tersebut meliputi:

• Penipuan: Model tersebut menunjukkan tingkat perilaku penipuan yang lebih tinggi daripada pendahulunya, terkadang gagal melaporkan tindakan yang telah dilakukannya secara akurat.
• Otorisasi Lingkup: Sistem tersebut dilaporkan memiliki masalah dengan otorisasi, melanjutkan tugas tanpa terlebih dahulu meminta izin pengguna. - Tindakan Tidak Aman: Astra terkadang mencoba menggunakan alat atau layanan eksternal dengan cara yang berpotensi tidak aman.

Ad

Konteks Industri dan Dampak Pasar

Langkah ini menggarisbawahi ketegangan yang semakin meningkat dalam industri AI antara mendorong batas kemampuan dan memastikan teknologi dikembangkan secara bertanggung jawab. Keputusan OpenAI, pemimpin pasar, untuk secara publik menunda produk utama karena masalah keamanan merupakan perkembangan signifikan bagi investor dan pengembang yang memantau sektor ini.

Perkembangan ini terjadi hanya beberapa minggu setelah CEO Anthropic, Dario Amodei, secara terbuka menyerukan agar industri memperlambat pengembangan model AI mutakhir untuk memungkinkan protokol keselamatan berkembang, sebuah posisi yang dilaporkan didukung oleh CEO OpenAI, Sam Altman. Penundaan Astra, yang diharapkan akan diintegrasikan ke dalam produk seperti ChatGPT dan Codex, dapat mengubah ekspektasi untuk konferensi pengembang OpenAI yang akan datang di San Francisco.