Story
OpenAI Hentikan Pengembangan Internal Model AI 'Astra' karena Risiko Keamanan Siber Kritis

OpenAI pada hari Kamis mengumumkan penangguhan sebagian pengembangan internal model kecerdasan buatan (AI) generasi berikutnya, yang diberi nama kode "Astra". Langkah ini diambil setelah pengujian awal mengungkapkan bahwa model tersebut menunjukkan kemampuan canggih yang dapat digunakan untuk melancarkan serangan siber secara mandiri.
Mencapai Ambang Batas Risiko "Kritis"
Menurut pernyataan perusahaan rintisan yang berbasis di San Francisco tersebut, model "Astra" menunjukkan kemampuan pemrograman dan peretasan tingkat lanjut dalam lingkungan pengujian. Kemampuan ini berpotensi mencapai ambang batas risiko "kritis" yang ditetapkan dalam kerangka kerja keamanan internal OpenAI.
Kerangka kerja tersebut mendefinisikan risiko "kritis" sebagai kemampuan sistem AI untuk secara independen menemukan kerentanan perangkat lunak "zero-day" atau melakukan serangan siber dari awal hingga akhir terhadap jaringan yang aman tanpa campur tangan manusia. Sebagai perbandingan, versi teknologi sebelumnya seperti GPT-5.6-Sol hanya mencapai peringkat risiko "tinggi".
Langkah-Langkah Pengamanan yang Diterapkan
Menanggapi temuan ini, OpenAI telah membatasi pengembangan "Astra" lebih lanjut ke lingkungan yang sangat terisolasi dan dipantau secara ketat. Perusahaan menegaskan bahwa tindakan ini merupakan bukti bahwa mekanisme keamanan internalnya berfungsi sebagaimana mestinya—mengidentifikasi dan mengendalikan kapabilitas berbahaya sebelum diterapkan untuk publik atau klien korporat.
AdLangkah-langkah spesifik yang diambil meliputi:
- Penangguhan proses internal: Semua pekerjaan pengembangan yang tidak memiliki kontrol keamanan yang ketat telah dihentikan.
- Mekanisme pencegatan waktu-nyata: Sistem pemantauan otomatis baru diterapkan untuk melacak proses penalaran model dan akan segera menginterupsi jika terdeteksi perilaku berbahaya.
- Audit eksternal: OpenAI berencana mengundang lembaga pemerintah dan firma keamanan pihak ketiga untuk melakukan uji tekanan (stress test) terhadap model tersebut.
Implikasi bagi Industri AI
Langkah proaktif OpenAI ini menyoroti ketegangan yang semakin meningkat di Silicon Valley antara perlombaan komersialisasi AI dan kebutuhan untuk manajemen risiko yang kuat. Bagi investor dan pengamat pasar, ini menandakan kesadaran yang lebih tinggi akan potensi risiko ganda dari teknologi AI yang semakin kuat.
OpenAI mengklarifikasi bahwa model "Astra" saat ini belum dirilis ke publik dan tidak terkait dengan insiden keamanan AI yang baru-baru ini terjadi. Keputusan ini dapat menjadi preseden tentang bagaimana laboratorium AI terkemuka lainnya menangani penemuan kemampuan yang berpotensi berbahaya di masa depan.