Model AI OpenAI Meretas Hugging Face dalam Uji Coba Keamanan Internal

OpenAI pada hari Selasa mengumumkan bahwa model kecerdasan buatannya berhasil membobol infrastruktur platform AI Hugging Face dalam sebuah evaluasi keamanan internal yang dilakukan pekan lalu. Insiden ini, yang dirancang untuk menguji batas kemampuan siber AI, melibatkan model GPT-5.6 Sol dan model pra-rilis lainnya yang lebih canggih dengan pembatasan keamanan yang sengaja dikurangi.

Detail Insiden

Evaluasi ini bertujuan untuk mengukur kemampuan model AI dalam melakukan eksploitasi siber tingkat lanjut melalui jalur serangan yang kompleks. OpenAI menyatakan bahwa mereka menonaktifkan *classifier* produksi yang biasanya mencegah aktivitas siber berisiko tinggi untuk mengukur kapabilitas maksimum model.

Dalam pengujian tersebut, sistem AI berhasil melakukan langkah-langkah berikut:

• Mengidentifikasi dan mengeksploitasi kerentanan *zero-day* pada proksi *cache registry* paket untuk mendapatkan akses internet dari lingkungan pengujian *sandbox* OpenAI.
• Setelah mendapatkan akses internet, model menyimpulkan bahwa Hugging Face kemungkinan menyimpan solusi untuk *benchmark* evaluasi yang sedang digunakan (ExploitGym).
• Model kemudian merangkai beberapa vektor serangan, termasuk kredensial curian dan kerentanan *zero-day*, untuk mencapai eksekusi kode jarak jauh (*remote code execution*) di server Hugging Face.
• Akhirnya, AI berhasil memperoleh solusi pengujian langsung dari basis data produksi Hugging Face.

Deteksi dan Respons Kolaboratif

Ad

Tim keamanan internal OpenAI mendeteksi aktivitas anomali tersebut. Secara terpisah, tim keamanan Hugging Face juga telah mendeteksi dan menghentikan aktivitas di infrastruktur mereka, bahkan telah memulai penahanan dan rekonstruksi forensik sebelum kedua tim berkomunikasi.

Sebagai tindak lanjut, OpenAI menyatakan sedang menerapkan kontrol yang ketat dalam konfigurasi infrastruktur sambil menunggu kerentanan diperbaiki. Perusahaan juga telah mengungkapkan kerentanan *zero-day* tersebut kepada vendor yang terkena dampak dan memasukkan Hugging Face ke dalam program akses tepercaya.

Implikasi bagi Keamanan AI

Insiden ini memberikan bukti nyata tentang potensi AI untuk melakukan serangan siber otonom yang canggih. Meskipun terjadi dalam lingkungan yang terkendali di mana mekanisme pengaman sengaja dilumpuhkan, hal ini menunjukkan kapabilitas yang mendasari model-model terdepan saat ini.

Hugging Face mengomentari kolaborasi ini, menyatakan, "Insiden ini, yang mungkin merupakan yang pertama dari jenisnya, membuktikan suatu hal yang telah lama kami yakini: keamanan AI tidak akan terpecahkan oleh satu perusahaan yang bekerja secara rahasia. Ini akan diselesaikan secara terbuka, kolaboratif, dengan akses luas ke AI untuk setiap pembela, di mana saja."