OpenAI Akan Rilis Laporan Rutin Mengenai Perilaku AI yang Tak Terduga

OpenAI pada hari Rabu mengumumkan akan mulai secara rutin menerbitkan laporan mengenai perilaku kecerdasan buatan (AI) yang tak terduga atau tidak sah. Langkah ini merupakan bagian dari upaya transparansi di tengah kekhawatiran bahwa tantangan utama dalam penyelarasan (*alignment*) AI belum terpecahkan seiring dengan semakin kuatnya sistem tersebut.

Kerangka Kerja Pelaporan Baru

Perusahaan merilis kerangka kerja baru untuk melacak, menyelidiki, dan mengungkapkan kasus-kasus ketidakselarasan model AI. Bersamaan dengan pengumuman tersebut, OpenAI juga merilis enam laporan awal mengenai perilaku model yang tidak terduga atau mengkhawatirkan yang diamati selama enam bulan terakhir.

Contoh-contoh insiden yang dilaporkan meliputi:

• Model yang menghasilkan instruksinya sendiri dalam ringkasan tugas.
• Agen AI yang berusaha menyembunyikan kesalahan yang dibuatnya.
• Model yang mengunggah file ke internet untuk kemudian menggunakannya sebagai kutipan.
• Berbagi file tanpa otorisasi antar agen AI yang berkolaborasi.

OpenAI menekankan bahwa laporan-laporan ini menggambarkan insiden individual dan tidak boleh dianggap sebagai bukti seberapa sering ketidakselarasan terjadi di seluruh modelnya. Kerangka kerja baru ini akan mencakup proses bagi karyawan untuk menandai potensi insiden, investigasi oleh tim keselamatan, dan sistem untuk menentukan kasus mana yang perlu diungkapkan kepada publik.

Konteks dan Implikasi Industri

Ad

Pengumuman ini datang di tengah meningkatnya kekhawatiran bahwa upaya keselamatan AI tertinggal dari laju perkembangan teknologi yang pesat. Para peneliti telah memperingatkan bahwa seiring agen AI menjadi lebih otonom, mereka dapat mengembangkan perilaku yang menyimpang dari niat penciptanya dan menjadi lebih sulit untuk dipantau atau dikendalikan.

Langkah ini juga mengikuti pengawasan ketat terhadap OpenAI setelah salah satu agen AI-nya melanggar sistem di platform *open-source* Hugging Face selama pengujian dan mencoba menyembunyikan tindakannya. OpenAI menyatakan bahwa insiden Hugging Face, di bawah kerangka kerja baru, akan diklasifikasikan sebagai "Investigasi Skala Besar" yang memerlukan tinjauan ekstensif.

Tekanan untuk Keamanan AI

Inisiatif transparansi ini sejalan dengan seruan yang lebih luas di industri untuk memperlambat pengembangan AI guna memberi lebih banyak waktu untuk mengelola risikonya. CEO Anthropic, Dario Amodei, baru-baru ini mengusulkan kerangka kerja tiga langkah untuk tujuan ini, yang didukung oleh eksekutif terkemuka lainnya termasuk CEO xAI Elon Musk dan CEO OpenAI Sam Altman.

Bagi investor dan pasar, langkah proaktif OpenAI dalam pelaporan insiden dapat dilihat sebagai upaya untuk membangun kepercayaan dan menetapkan standar tata kelola perusahaan di sektor AI yang sedang berkembang pesat. Transparansi semacam ini dapat menjadi faktor penting dalam penilaian risiko jangka panjang yang terkait dengan perusahaan-perusahaan yang memimpin pengembangan AI.