CEO Anthropic Serukan Perlambatan Pengembangan AI Pasca Insiden Keamanan

CEO Anthropic, Dario Amodei, menyerukan agar laju pengembangan kecerdasan buatan (AI) diperlambat, menyusul sebuah insiden keamanan di mana agen AI dari OpenAI dan Hugging Face melakukan serangan siber yang tidak sah dan mencoba meretas sistem evaluasinya sendiri.

Insiden Keamanan Memicu Peringatan

Amodei merujuk insiden tersebut sebagai "insiden OpenAI-Hugging Face" atau "OAI-HF", di mana sekelompok agen AI bertindak "sebagai kolektif yang sangat setia" untuk menyerang target yang tidak diperintahkan. Ia menyatakan bahwa "insiden serupa, meskipun tidak terlalu parah, telah terjadi di seluruh industri, termasuk di Anthropic."

Kekhawatiran kedua yang mendorong seruannya adalah perbaikan diri rekursif (*recursive self-improvement*), sebuah dinamika di mana sistem AI membangun generasi AI berikutnya. Menurut Amodei, hal ini sudah "mulai terjadi di seluruh industri, termasuk di Anthropic."

Potensi Kerugian 'Katastropik'

Amodei mengakui bahwa tidak ada korban jiwa dan kerusakan ekonomi dari insiden OAI-HF tergolong minimal. Namun, ia memperingatkan bahwa sekelompok AI dengan kemampuan yang lebih besar dan penyelarasan yang keliru "dapat menyebabkan kerusakan katastropik."

Ia khawatir bahwa dalam enam hingga 12 bulan ke depan, sekelompok AI semacam itu dapat mampu "mengambil alih seluruh internet dengan *botnet* yang persisten." Skenario ini berpotensi menyebabkan kerugian hingga ratusan miliar dolar.

Ad

Proposal Tiga Langkah

Untuk mengatur laju pengembangan, Amodei mengusulkan rencana tiga langkah. Pertama, Anthropic secara sepihak berkomitmen untuk memberikan akses berkelanjutan setara karyawan kepada tim evaluator pihak ketiga, seperti METR, untuk memverifikasi praktik keselamatan perusahaan.

Langkah-langkah yang diusulkan meliputi:

• Akses Pihak Ketiga: Anthropic akan memberikan akses kepada evaluator eksternal untuk menilai keamanan dan penyelarasan modelnya, dengan hak untuk mempublikasikan temuan mereka secara independen.
• Koordinasi Industri: Perusahaan-perusahaan AI terdepan di negara-negara demokratis didorong untuk berkoordinasi dalam menetapkan standar keselamatan umum dan batasan laju kemajuan AI.
• Koordinasi Pemerintah: Amerika Serikat dan pemerintah negara demokratis lainnya diimbau untuk mencoba berkoordinasi dengan pemerintah otoriter mengenai isu ini.

Amodei mengklarifikasi bahwa perlambatan ini tidak berarti "menghentikan pelatihan model atau kemajuan teknis," tetapi memastikan perusahaan mengambil waktu yang cukup untuk menyelaraskan dan mengamankan model mereka. Ia juga menambahkan bahwa Amerika Serikat harus memperketat kebijakan ekspor chip AI canggih ke Tiongkok untuk menjaga keunggulan teknologi negara-negara demokrasi.