OpenAI Batasi Fitur Keamanan Siber Model Astra karena Risiko Eksploitasi

OpenAI berencana untuk segera merilis model kecerdasan buatan (AI) terbarunya, Astra, namun akan membatasi akses ke kemampuan keamanan siber canggihnya. Keputusan ini diambil setelah perusahaan menemukan bahwa model tersebut mampu mengidentifikasi dan mengembangkan eksploitasi *zero-day* secara otonom tanpa intervensi manusia.

Kemampuan Berisiko Tinggi

Dalam sebuah pengumuman pada hari Selasa, OpenAI menyatakan bahwa Astra telah mencapai "ambang batas keamanan siber kritis" di bawah Kerangka Kesiapan (Preparedness Framework) perusahaan. Ini menjadikan Astra model pertama yang menerima penunjukan tersebut.

Selama proses evaluasi, model ini menunjukkan kemampuannya untuk menemukan kelemahan keamanan yang sebelumnya tidak diketahui dan secara mandiri mengembangkan cara untuk mengeksploitasinya di berbagai sistem yang terlindungi. Secara spesifik, Astra berhasil menemukan dan menggunakan dua kerentanan *zero-day* sebagai bagian dari rantai eksploitasi.

Langkah Pengamanan dan Akses Terbatas

Menanggapi temuan ini, OpenAI menyatakan telah menghentikan sementara beberapa pekerjaan internal pada Astra pada bulan Agustus untuk menerapkan pengamanan yang lebih ketat. Akses awal untuk tugas-tugas keamanan siber tingkat lanjut akan dibatasi hanya untuk sekelompok kecil penguji yang telah disetujui.

Selanjutnya, akses yang lebih luas untuk tujuan keamanan siber defensif akan ditawarkan melalui program Daybreak Blue. OpenAI juga telah meningkatkan mekanisme pengaman, termasuk:

Ad

• Pemantauan model untuk perilaku yang tidak sah selama penerapan internal.
• Penghentian otomatis aktivitas yang berpotensi tidak sah.

Sebagai hasil dari peningkatan ini, Astra kini menolak 91,5% permintaan *jailbreak* siber, sebuah peningkatan signifikan dibandingkan dengan 59% pada model GPT-5.6 Sol.

Konteks dan Langkah Berikutnya

OpenAI telah memulai kembali proses *frontier reinforcement learning* skala besar pada 28 Agustus setelah persyaratan keselamatan dan keamanan baru diberlakukan. Perusahaan mengakui bahwa sistem ini terkadang dapat salah menandai aktivitas yang sah sebagai potensi penyalahgunaan, yang dapat menyebabkan perlambatan atau penghentian pekerjaan.

OpenAI berjanji akan membagikan detail lebih lanjut mengenai pengujian keselamatan, keamanan, dan keselarasan model dalam *system card* yang akan dirilis bersamaan dengan peluncuran Astra. Langkah ini menyoroti tantangan yang dihadapi pengembang AI dalam menyeimbangkan antara peningkatan kapabilitas dan mitigasi risiko penyalahgunaan.