OpenAI Hadkan Ciri Keselamatan Siber Model Astra Atas Risiko Eksploitasi

OpenAI merancang untuk mengehadkan akses kepada keupayaan keselamatan siber termaju dalam model kecerdasan buatan (AI) terbaharunya, Astra, berikutan penemuan bahawa ia boleh mengenal pasti dan membangunkan eksploitasi 'sifar-hari' ('zero-day') tanpa campur tangan manusia. Syarikat itu pada hari Selasa mengesahkan bahawa Astra telah mencapai "ambang kritikal keselamatan siber" di bawah Rangka Kerja Kesiapsiagaan OpenAI, menjadikannya model pertama yang menerima penetapan sedemikian.

Keupayaan Dwi-Fungsi Timbulkan Kebimbangan

Penilaian dalaman menunjukkan bahawa model Astra berupaya mencari kelemahan keselamatan yang tidak diketahui sebelum ini dan secara autonomi membangunkan kaedah untuk mengeksploitasinya merentasi pelbagai sistem yang mempunyai perlindungan rapi. Dalam satu ujian, Astra berjaya menemui dan menggunakan dua kerentanan 'sifar-hari' sebagai sebahagian daripada satu rantaian eksploitasi.

Keupayaan ini menandakan satu lonjakan signifikan dalam kebolehan AI, namun ia juga membawa risiko penyalahgunaan yang besar jika jatuh ke tangan pihak yang tidak bertanggungjawab. Ini meletakkan model tersebut dalam kategori teknologi dwi-fungsi, di mana ia boleh digunakan untuk tujuan pertahanan dan serangan siber.

Langkah-Langkah Kawalan dan Pelancaran Terhad

Sebagai tindak balas kepada penemuan ini, OpenAI menyatakan ia telah menghentikan sementara beberapa kerja dalaman ke atas Astra pada bulan Ogos untuk menerapkan langkah-langkah perlindungan yang lebih ketat. Apabila dilancarkan, akses kepada ciri keselamatan siber termaju model ini akan dihadkan kepada sekumpulan kecil penguji yang diluluskan.

Langkah-langkah kawalan yang dipertingkatkan termasuk:

Ad

• Akses Terhad: Kumpulan pengguna yang lebih besar akan diberikan akses kemudian untuk tujuan keselamatan siber pertahanan melalui program Daybreak Blue.
• Pemantauan Rapi: Model akan dipantau untuk tingkah laku yang tidak dibenarkan semasa penggunaan dalaman.
• Pemberhentian Automatik: Sebarang aktiviti yang berpotensi tidak dibenarkan akan dihentikan secara automatik.

Menurut OpenAI, Astra kini menolak 91.5% permintaan "jailbreak" siber, satu peningkatan ketara berbanding 59% yang dicatatkan oleh model sebelumnya. Syarikat itu juga telah memulakan semula proses latihan model berskala besar pada 28 Ogos selepas keperluan keselamatan baharu dilaksanakan.

Implikasi kepada Industri dan Pelabur

Langkah berhati-hati OpenAI ini menggambarkan cabaran yang semakin meningkat dalam mengimbangi inovasi AI dengan pengurusan risiko. Bagi para pelabur dan pemerhati pasaran, keputusan ini menekankan risiko operasi dan reputasi yang wujud dalam pembangunan model AI sempadan ('frontier models').

Pendekatan ini boleh menjadi penanda aras bagi industri tentang cara menguruskan pelancaran teknologi AI yang sangat berkuasa tetapi berpotensi berbahaya. Ia juga berkemungkinan akan meningkatkan penelitian pengawal selia terhadap protokol keselamatan dalam industri AI. OpenAI memaklumkan butiran lanjut mengenai ujian keselamatan akan dikongsi dalam kad sistem model tersebut semasa pelancarannya.