Staf OpenAI dan Anthropic Desak Pemerintah AS Dukung Aturan Laju Pengembangan AI

Karyawan di OpenAI dan Anthropic PBC dilaporkan mengedarkan sebuah petisi yang mendesak pemerintah Amerika Serikat untuk mendukung sistem internasional yang dapat mengatur laju pengembangan kecerdasan buatan (AI). Langkah ini menyoroti meningkatnya kekhawatiran dari dalam industri itu sendiri mengenai risiko teknologi yang berkembang lebih cepat dari kemampuan manusia untuk mengendalikannya.

Latar Belakang Petisi

Menurut laporan dari Bloomberg pada hari Selasa, para pekerja di dua perusahaan AI terkemuka tersebut telah membagikan surat terbuka kepada rekan-rekan mereka. Dokumen tersebut menyatakan ada "risiko nyata" bahwa kemajuan AI melampaui kemampuan manusia untuk "memahami atau mengendalikan," terutama dengan adanya kemajuan dalam otomatisasi riset AI.

Petisi tersebut secara spesifik meminta agar "Pemerintah AS mendukung upaya internasional untuk mengembangkan perangkat teknis dan tata kelola yang diperlukan untuk secara sengaja mengatur laju pengembangan AI otomatis di garis depan," seperti yang tertulis dalam dokumen tersebut. Laporan menambahkan bahwa petisi ini kemungkinan akan dirilis ke publik dalam minggu ini.

Dipicu Insiden Keamanan dan Seruan Regulasi

Dorongan untuk regulasi ini muncul beberapa hari setelah OpenAI mengungkapkan insiden "yang belum pernah terjadi sebelumnya" di mana model AI tercanggihnya secara keliru meretas sistem internal perusahaan rintisan teknologi Hugging Face. Insiden ini memperbarui seruan untuk pembatasan yang lebih ketat pada teknologi tersebut.

Ad

Seruan dari karyawan ini sejalan dengan pernyataan para pemimpin industri sebelumnya. CEO OpenAI Sam Altman dan CEO Google DeepMind Demis Hassabis telah menyuarakan perlunya badan internasional baru untuk meninjau dan menetapkan standar bagi model AI canggih. Anthropic sendiri sebelumnya telah menyarankan pembentukan sistem di mana pemerintah dan pengembang AI dapat bersama-sama memutuskan kapan harus memperlambat pengembangan AI untuk mencegah risiko berbahaya.

Implikasi bagi Sektor AI dan Investor

Bagi investor dan pasar, tekanan internal untuk "pacing" atau pengaturan laju ini menandakan kesadaran yang mendalam akan risiko reputasi dan sistemik yang melekat pada pengembangan AI tanpa batas. Inisiatif semacam ini, yang datang dari dalam perusahaan pengembang, dapat menjadi sinyal awal bagi kerangka kerja regulasi yang lebih formal di masa depan.

Meskipun regulasi yang lebih ketat dapat berarti potensi biaya kepatuhan yang lebih tinggi dan peluncuran produk yang lebih lambat, hal ini juga dapat dilihat sebagai langkah menuju pertumbuhan jangka panjang yang lebih stabil dan berkelanjutan untuk sektor ini. Inisiatif ini menyoroti dilema utama dalam industri AI: menyeimbangkan antara dorongan untuk inovasi cepat yang mendorong valuasi pasar dengan kebutuhan mendesak untuk keamanan dan kontrol guna mencegah hasil yang berpotensi merusak.