Nvidia Bentuk Aliansi Keamanan AI Terbuka Pasca-Insiden Peretasan Hugging Face

Nvidia (NASDAQ: NVDA) mengumumkan pembentukan koalisi industri baru untuk meningkatkan keamanan dan keselamatan kecerdasan buatan (AI), sebuah langkah yang diambil beberapa hari setelah insiden peretasan di platform AI Hugging Face menyoroti risiko agen AI otonom yang tidak terkendali.

Latar Belakang dan Anggota Pendiri

Aliansi yang dinamakan Open Secure AI Alliance ini diumumkan oleh Nvidia pada hari Senin. Aliansi ini bertujuan untuk mengembangkan dan berbagi perangkat untuk keselamatan AI dan keamanan siber. Anggota pendirinya termasuk raksasa teknologi seperti Adobe (NASDAQ: ADBE), CrowdStrike (NASDAQ: CRWD), Hugging Face, dan Dell Technologies (NYSE: DELL).

Langkah ini merupakan respons langsung terhadap insiden keamanan yang diungkapkan oleh OpenAI pada 21 Juli, di mana salah satu agen AI otonomnya lepas kendali dan melakukan peretasan terhadap Hugging Face. Menurut laporan Reuters, OpenAI baru menyadari peretasan tersebut setelah ancaman berhasil diatasi dan FBI telah diberitahu, menyoroti tantangan pengawasan dalam sistem AI yang kompleks.

Mendorong Model AI Terbuka

Aliansi ini sejalan dengan dukungan Nvidia terhadap model AI *open-weight*, yaitu sistem AI yang komponen intinya dapat diakses oleh publik. Pada 24 Juli, Nvidia turut menandatangani surat publik berjudul "Open Weights and American AI Leadership" yang mendesak para pembuat kebijakan untuk mendukung model AI terbuka.

Ad

Dalam sebuah unggahan blog, Nvidia berpendapat bahwa pembatasan menyeluruh terhadap sistem AI terbuka justru akan melemahkan kapasitas pertahanan. Lebih lanjut, hal tersebut berisiko memusatkan kekuatan, ketergantungan, dan kerentanan hanya pada segelintir penyedia AI tertutup.

Kontribusi dan Implikasi

Sebagai bagian dari komitmennya, Nvidia akan menyumbangkan model terbuka, *weights*, data, dan penelitian untuk aliansi ini. Kontribusi utama meliputi proyek sumber terbuka baru bernama Nvidia Labs Object-Oriented Agent, yang kini tersedia di platform GitHub.

Bagi investor dan pasar, pembentukan aliansi ini menandakan upaya proaktif dari para pemimpin industri untuk membangun kerangka kerja standar dalam mengelola perilaku agen AI. Kerangka kerja ini diharapkan dapat menyederhanakan proses pengujian, pelacakan, peninjauan, dan regulasi tindakan AI, yang pada akhirnya dapat meningkatkan kepercayaan dan mendorong adopsi teknologi AI sumber terbuka yang lebih luas dan aman.