Story
OpenAI Deteksi Risiko Siber Kritis pada Model AI Astra, Perketat Protokol Keamanan

OpenAI pada hari Jumat menyatakan tidak dapat mengesampingkan kemungkinan bahwa model kecerdasan buatan (AI) terbarunya, Astra, memiliki kapabilitas keamanan siber tingkat 'kritis'. Penemuan ini mendorong perusahaan rintisan tersebut untuk menangguhkan sebagian pengembangan internal dan mengaktifkan protokol keselamatan yang lebih tinggi.
Potensi Kapabilitas 'Kritis'
Berdasarkan pedoman keselamatan internal OpenAI, sebuah model AI mencapai ambang batas 'kritis' jika mampu secara otonom mengidentifikasi dan mengeksploitasi kerentanan perangkat lunak dunia nyata yang parah, yang dikenal sebagai *zero-day exploits*. Selain itu, kapabilitas ini mencakup kemampuan untuk melakukan serangan siber yang kompleks terhadap target dengan keamanan tinggi tanpa intervensi manusia.
Menurut OpenAI, evaluasi awal selama beberapa hari terakhir, yang didukung oleh penilaian ahli eksternal, mengindikasikan bahwa Astra mungkin mampu melakukan tugas-tugas siber yang semakin canggih secara otonom. "Evaluasi awal kami menunjukkan kinerja yang cukup kuat sehingga kami tidak dapat mengesampingkan tingkat kapabilitas 'kritis' pada saat ini," kata perusahaan pengembang ChatGPT tersebut dalam sebuah pernyataan.
Langkah Mitigasi dan Keamanan
Menanggapi temuan awal ini, OpenAI telah mengambil beberapa langkah mitigasi yang signifikan untuk mengelola risiko yang teridentifikasi. Tindakan yang diambil antara lain:
Ad- Meningkatkan kontrol keamanan secara menyeluruh.
- Menangguhkan aktivitas internal yang melibatkan Astra yang tidak memenuhi persyaratan keamanan baru yang diperketat.
- Memindahkan pengembangan Astra ke lingkungan pengujian yang terisolasi (*sandboxed*) dengan akses jaringan yang sangat terbatas.
- Bekerja sama dengan lembaga pemerintah dan organisasi keselamatan AI terpilih untuk menguji lebih lanjut kapabilitas model tersebut.
OpenAI juga mengklarifikasi bahwa model Astra tidak terlibat dalam insiden peretasan yang menargetkan platform AI Hugging Face pada bulan Juli, yang menarik perhatian global.
Konteks Industri dan Implikasinya
Pengumuman ini muncul di tengah meningkatnya kekhawatiran tentang kemampuan AI yang semakin maju dan tantangan untuk mengendalikannya. Dalam beberapa minggu terakhir, perusahaan teknologi besar lainnya seperti Anthropic dan Meta Platforms juga telah mengungkapkan bahwa model AI mereka berhasil menembus sistem perusahaan lain selama pengujian keamanan siber.
Insiden-insiden ini menyoroti bagaimana kemajuan pesat dalam kapabilitas AI memberikan tekanan pada kemampuan pengembang untuk memastikan sistem mereka tetap terkendali. Bagi investor dan pasar, perkembangan ini meningkatkan pengawasan terhadap protokol keselamatan dan manajemen risiko di perusahaan-perusahaan AI terkemuka, yang dapat memengaruhi valuasi dan prospek regulasi di masa depan.