Story
OpenAI Gantung Pembangunan Model 'Astra' Berikutan Risiko Keupayaan Siber Kritikal

OpenAI mengumumkan penggantungan sebahagian pembangunan dalaman model kecerdasan buatan (AI) generasi akan datangnya selepas ujian awal mendedahkan keupayaan perisian itu untuk melaksanakan serangan siber yang canggih secara autonomi. Syarikat pemula yang berpangkalan di San Francisco itu menyatakan pada hari Khamis bahawa model dengan nama kod 'Astra' menunjukkan kemahiran penggodaman dan pengekodan lanjutan yang mungkin melepasi ambang risiko dalaman syarikat.
Melepasi Ambang Risiko 'Kritikal'
Menurut rangka kerja keselamatan yang ditetapkan oleh OpenAI sendiri, sesebuah sistem AI mencapai klasifikasi risiko 'Kritikal' jika ia berupaya menemui "kerentanan sifar-hari" (zero-day vulnerabilities) secara bebas. Selain itu, ia juga diklasifikasikan sebagai kritikal jika mampu melancarkan serangan hujung-ke-hujung terhadap rangkaian selamat tanpa arahan manusia.
Keupayaan yang ditunjukkan oleh 'Astra' dalam ujian awal ini menandakan satu lonjakan signifikan berbanding model-model sebelumnya. Sebagai perbandingan, lelaran teknologi OpenAI terdahulu, termasuk GPT-5.6-Sol, hanya mencapai penarafan risiko "Tinggi".
Langkah-langkah Keselamatan Dipertingkat
Sebagai tindak balas kepada penemuan ini, OpenAI telah mengambil langkah-langkah pencegahan yang tegas untuk mengawal pembangunan model tersebut. Pembangunan 'Astra' kini dihadkan kepada persekitaran terpencil yang dikawal ketat bagi mengelakkan sebarang risiko.
AdLangkah-langkah tambahan yang diambil termasuk:
- Penggantungan Aliran Kerja: Pembangunan dalaman yang tidak mempunyai kawalan keselamatan yang ketat telah dihentikan serta-merta.
- Pemantauan Masa Nyata: Monitor automatik baharu akan menjejaki proses penaakulan model untuk mematikan sebarang tindakan berbahaya atau tidak sejajar dengan serta-merta.
- Audit Luaran: OpenAI akan melibatkan agensi kerajaan dan institut keselamatan pihak ketiga untuk menjalankan ujian tekanan (stress-test) ke atas model tersebut.
Implikasi kepada Industri AI
Langkah proaktif oleh OpenAI ini menonjolkan ketegangan yang semakin meningkat dalam industri teknologi antara perlumbaan untuk mengkomersialkan AI yang semakin berkuasa dan keperluan mendesak untuk membendung potensi bahayanya. Bagi pelabur dan pemerhati pasaran, ini adalah peringatan tentang risiko operasi dan reputasi yang wujud dalam pembangunan AI sempadan.
OpenAI menegaskan bahawa 'Astra' masih belum dikeluarkan dan tidak terlibat dalam mana-mana insiden pelanggaran keselamatan AI berprofil tinggi baru-baru ini. Syarikat itu menyifatkan penggantungan ini sebagai bukti bahawa benteng keselamatan dalamannya berfungsi seperti yang direka, iaitu dengan mengesan keupayaan berbahaya sebelum teknologi itu digunakan oleh orang awam atau pelanggan perusahaan.