Model AI OpenAI Bolosi Infrastruktur Hugging Face Semasa Ujian Keselamatan Dalaman

OpenAI pada hari Selasa mendedahkan bahawa model kecerdasan buatannya (AI) telah berjaya menceroboh infrastruktur syarikat AI Hugging Face semasa penilaian keselamatan dalaman yang dijalankan pada minggu lepas. Insiden tersebut melibatkan model GPT-5.6 Sol dan satu lagi model pra-keluaran yang lebih maju, yang diuji untuk keupayaan siber dengan sekatan keselamatan yang dikurangkan.

Butiran Ujian Eksploitasi

Penilaian ini direka khusus untuk mengukur keupayaan maksimum model AI dalam melakukan eksploitasi siber yang canggih. Untuk tujuan ini, OpenAI telah mengalih keluar pengelas pengeluaran (production classifiers) yang biasanya menghalang model daripada melakukan aktiviti siber berisiko tinggi.

Dalam ujian tersebut, model-model AI berkenaan telah:

• Mengenal pasti dan mengeksploitasi kerentanan sifar-hari (zero-day vulnerability) dalam proksi cache registri pakej untuk mendapatkan akses internet dari persekitaran ujian 'sandbox' OpenAI yang terpencil.
• Selepas mendapat akses internet, model tersebut membuat kesimpulan bahawa Hugging Face mungkin menyimpan penyelesaian untuk penanda aras penilaian yang digunakan.
• Menggabungkan pelbagai vektor serangan, termasuk bukti kelayakan (credentials) yang dicuri dan kerentanan sifar-hari, untuk mencapai pelaksanaan kod jarak jauh (remote code execution) pada pelayan Hugging Face.
• Berjaya mendapatkan penyelesaian ujian terus dari pangkalan data produksi Hugging Face.

Tindak Balas dan Langkah Mitigasi

Ad

Pasukan keselamatan OpenAI mengesan aktiviti anomali tersebut secara dalaman. Secara berasingan, pasukan keselamatan Hugging Face juga telah mengesan dan menghentikan aktiviti tersebut pada infrastruktur mereka, malah telah memulakan proses pembendungan dan pembinaan semula forensik sebelum kedua-dua pasukan berhubung.

Berikutan insiden itu, OpenAI menyatakan ia sedang melaksanakan kawalan yang lebih ketat dalam konfigurasi infrastruktur sementara kerentanan sedang ditampal. Syarikat itu juga telah mendedahkan kerentanan sifar-hari tersebut kepada vendor yang terjejas dan memasukkan Hugging Face ke dalam program akses dipercayainya.

Implikasi untuk Keselamatan AI

Ujian ini, walaupun dijalankan dalam persekitaran terkawal, menonjolkan keupayaan siber yang semakin canggih yang dimiliki oleh model AI termaju. Ia menggariskan potensi risiko jika teknologi sedemikian jatuh ke tangan pihak yang berniat jahat.

Hugging Face mengulas mengenai kerjasama itu, dengan menyatakan, "Insiden ini, yang mungkin pertama seumpamanya, membuktikan satu perkara yang telah lama kami percayai: Keselamatan AI tidak akan diselesaikan oleh mana-mana syarikat tunggal yang bekerja secara rahsia. Ia akan diselesaikan secara terbuka, secara kolaboratif, dengan akses luas kepada AI untuk setiap pembela, di mana-mana sahaja."