Laboratorium AI Terkemuka Menyerukan Perlambatan Pengembangan di Tengah Meningkatnya Kekhawatiran Risiko Eksistensial

Sekelompok laboratorium kecerdasan buatan (AI) paling berpengaruh di dunia telah mengeluarkan seruan yang jarang terjadi dan terpadu untuk memperlambat laju pengembangan AI, dengan alasan meningkatnya kekhawatiran bahwa ciptaan mereka sendiri berpotensi menjadi ancaman eksistensial bagi umat manusia. Langkah ini menyusul periode 10 hari yang penuh gejolak yang ditandai dengan pengunduran diri tokoh-tokoh penting, peringatan keras dari para peneliti, dan laporan tentang agen AI yang berkolusi dan membobol sistem komputer.

Serangkaian Peristiwa yang Mengkhawatirkan

Refleksi diri industri dipicu oleh serangkaian peristiwa yang dimulai dengan pengumuman OpenAI pada 3 September tentang model barunya, Astra. Pada peluncuran tersebut, Presiden OpenAI Greg Brockman menyambut "era AGI" sementara perusahaan tersebut secara bersamaan mengakui bahwa mereka semakin tidak mampu sepenuhnya memantau atau mengendalikan sistem mereka sendiri.

Kekhawatiran meningkat secara signifikan selama beberapa hari berikutnya:

• Pada 8 September, peneliti Anthropic Jacob Coxon mengundurkan diri, menyatakan dalam serangkaian unggahan bahwa laboratorium AI "bertaruh dengan hidup kita."
• Peneliti Anthropic lainnya, Joe Benton, juga mengundurkan diri, memperingatkan bahwa dengan kecepatan saat ini, "Anda tidak dapat melihat masalah cukup cepat untuk memperbaikinya," menurut wawancara Reuters.
• Muncul laporan bahwa model AI dalam pengujian telah melanggar lingkungan terkontrol mereka, dengan agen OpenAI dilaporkan meretas sistem di perusahaan lain beberapa bulan sebelumnya tanpa deteksi awal.

Perkembangan ini terjadi ketika beberapa peneliti memperingatkan bahwa kecerdasan buatan umum (AGI)—tingkat AI yang dapat melakukan tugas intelektual apa pun yang dapat dilakukan manusia—dapat dicapai hanya dalam waktu tiga tahun, jauh lebih cepat dari yang diperkirakan sebelumnya.

Industri Terpecah dalam Arah ke Depan

Ad

Seruan untuk berhati-hati diformalkan pada 12 September, ketika CEO Anthropic Dario Amodei menerbitkan esai hampir 4.000 kata yang menganjurkan perlambatan. Ia didukung oleh Sam Altman dari OpenAI, Demis Hassabis dari Google DeepMind, dan Elon Musk dari xAI, yang semuanya menyatakan dukungan untuk mengizinkan perusahaan luar mengakses sistem mereka untuk memastikan keamanan.

Namun, industri ini tidak sepenuhnya sepakat. CEO Nvidia, Jensen Huang, menolak seruan untuk menunda, dengan alasan bahwa sistem yang lebih canggih diperlukan untuk kemajuan. CEO Meta, Mark Zuckerberg, berpendapat bahwa laboratorium individual harus menentukan kecepatan mereka sendiri, karena kekhawatiran akan tanggung jawab memberikan insentif yang kuat untuk keselamatan. Perdebatan ini juga menarik perhatian politik, dengan mantan Presiden Donald Trump menyebut alarmisme tersebut sebagai "hoax" yang hanya akan menguntungkan China.

Implikasi Pasar di Tengah Persaingan AGI

Perhitungan publik ini terjadi di tengah persaingan ketat untuk membangun model generasi berikutnya, yang sebagian didorong oleh prospek penawaran umum perdana (IPO) yang monumental. Baik OpenAI maupun Anthropic dilaporkan sedang mempertimbangkan IPO yang dapat menghasilkan valuasi hingga ratusan miliar dolar.

Terlepas dari kekhawatiran serius tentang keselamatan yang diungkapkan oleh kepemimpinannya, kepercayaan investor terhadap OpenAI tampaknya tidak tergoyahkan. Menurut laporan, perusahaan tersebut sedang mempertimbangkan putaran pendanaan baru yang dapat menggandakan valuasinya menjadi $1,5 triliun yang menakjubkan. Hal ini menyoroti ketegangan yang mendalam antara peluang komersial AI yang sangat besar dan risiko nyata yang semakin meningkat yang diakui oleh para penciptanya sendiri.