Story

OpenAI Gantung Pembangunan Model AI 'Astra' Atas Risiko Keselamatan Siber Kritikal

ENTHMSVIIDZHZH-TWJAKOHI
Aug 7, 20262 min read
OpenAI Gantung Pembangunan Model AI 'Astra' Atas Risiko Keselamatan Siber Kritikal
Text size
Background

OpenAI telah menggantung sebahagian pembangunan dalaman untuk model kecerdasan buatan (AI) generasi seterusnya, yang diberi nama kod "Astra". Langkah ini diambil berikutan ujian awal yang menunjukkan model tersebut mungkin mempunyai keupayaan untuk melancarkan serangan siber yang kompleks secara autonomi.

Pembangunan Dihentikan Akibat Risiko 'Kritikal'

Syarikat pemula yang berpangkalan di San Francisco itu pada hari Khamis menyatakan bahawa model "Astra" menunjukkan keupayaan pengaturcaraan dan penggodaman lanjutan semasa ujian. Keupayaan ini berpotensi mencapai ambang risiko "kritikal" yang ditetapkan dalam rangka kerja keselamatan dalaman OpenAI.

Menurut syarikat itu, tahap risiko "kritikal" tercapai jika sistem AI boleh menemui kelemahan perisian "zero-day" secara bebas atau melancarkan serangan hujung-ke-hujung terhadap rangkaian selamat tanpa campur tangan manusia. Sebagai tindak balas, OpenAI telah mengehadkan pembangunan lanjut Astra kepada persekitaran yang sangat terpencil dan selamat.

Langkah-Langkah Kawalan Diperketat

OpenAI telah melaksanakan beberapa langkah kawalan yang ketat untuk menguruskan risiko yang dikenal pasti. Tindakan ini menunjukkan mekanisme keselamatan dalaman syarikat berfungsi untuk mencegah potensi bahaya sebelum sebarang pelancaran awam.

Sample IUX Markets – In-articleAd

Langkah-langkah yang diambil termasuk:

  • Menggantung proses pembangunan: Semua kerja pembangunan dalaman yang tidak mempunyai kawalan keselamatan yang ketat telah dihentikan serta-merta.
  • Mekanisme pemintasan masa nyata: Sistem pemantauan automatik baharu telah digunakan untuk mengesan proses penaakulan model dan segera mengganggu sebarang tingkah laku yang berbahaya.
  • Audit luaran: OpenAI akan menjemput agensi kerajaan dan firma keselamatan pihak ketiga untuk menjalankan ujian tekanan ke atas model tersebut.

Konteks dan Implikasi

Langkah proaktif ini menonjolkan ketegangan yang semakin meningkat di Silicon Valley antara perlumbaan untuk mengkomersialkan AI dan keperluan untuk pengurusan keselamatan yang mantap. Model OpenAI sebelum ini, seperti GPT-5.6-Sol, hanya mencapai penarafan risiko "tinggi" dan tidak pernah mencecah ambang "kritikal".

OpenAI menjelaskan bahawa "Astra" belum dikeluarkan kepada umum dan tidak berkaitan dengan insiden keselamatan AI baru-baru ini. Syarikat itu menyifatkan penggantungan ini sebagai bukti keberkesanan protokol keselamatannya, yang berjaya mengenal pasti dan mengawal keupayaan berbahaya pada peringkat dalaman.

Back to latest news

LATEST