Mantan Karyawan Anthropic Sebut Sebagian Staf Perkirakan Risiko Bencana AI di Atas 50% - Laporan

Seorang mantan peneliti di perusahaan kecerdasan buatan (AI) Anthropic, Jacob Coxon, menyatakan bahwa beberapa karyawan di perusahaan tersebut memperkirakan probabilitas terjadinya bencana akibat AI lebih dari 50%. Pernyataan ini dilaporkan oleh The Information pada hari Rabu, menyusul pengumuman pengunduran diri Coxon dari perusahaan karena kekhawatiran terkait keamanan pada hari Selasa.

Kekhawatiran Internal Terungkap

Coxon, yang sebelumnya bekerja di OpenAI sebelum bergabung dengan Anthropic untuk menangani pelatihan model AI tahap awal, mengatakan kepada The Information bahwa estimasi karyawan mengenai skenario bencana "tanpa adanya perlambatan terkoordinasi yang substansial" sangat bervariasi di dalam perusahaan. Menurutnya, ia dapat mengetahui pandangan ini karena "Anthropic memiliki budaya internal yang jauh lebih transparan daripada OpenAI."

Alasan utama Coxon meninggalkan Anthropic adalah karena ia "mulai merasakan ketakutan secara mendalam mengenai arah perkembangan teknologi ini dalam satu atau dua tahun ke depan." Pengunduran dirinya menyoroti perdebatan yang sedang berlangsung di dalam laboratorium AI terkemuka mengenai kecepatan pengembangan versus protokol keamanan.

Risiko Peningkatan Mandiri dan Kecepatan Inovasi

Coxon secara spesifik menyoroti kekhawatiran tentang dorongan industri menuju peningkatan mandiri rekursif (recursive self-improvement), sebuah konsep di mana model AI mengotomatiskan pengembangan sistem AI baru. "Saya mengantisipasi bahwa sistem tahun depan akan sangat mampu untuk melakukan seluruh pekerjaan saya," katanya.

Ad

Anthropic sendiri telah mengakui risiko dari konsep ini, dengan menyatakan bahwa jika model mengembangkan tujuan yang tidak diinginkan, hal itu "dapat bertambah parah saat model membangun penerusnya, menjadi lebih sering terjadi tetapi semakin tidak dipahami hingga kita kehilangan kendali." Coxon juga menyebut peretasan di Hugging Face, di mana agen OpenAI menyerang hub AI sumber terbuka, sebagai faktor yang menambah kekhawatirannya.

Implikasi dan Seruan untuk Perlambatan

Menanggapi risiko yang dirasakannya, Coxon menyerukan adanya koordinasi internasional untuk mengatasi bahaya AI. "Rasanya kita benar-benar perlu melambat," ujarnya. Ia menyatakan optimisme tentang kolaborasi di antara perusahaan-perusahaan AI di Amerika Serikat, tetapi mencatat bahwa kerja sama antara AS dan Tiongkok mungkin akan lebih sulit dicapai.

Pernyataan dari seorang peneliti yang pernah berada di garis depan pengembangan AI ini memberikan gambaran langka tentang kekhawatiran yang ada di antara para praktisi. Hal ini dapat meningkatkan pengawasan dari regulator dan investor terhadap laju pengembangan AI yang sangat cepat dan langkah-langkah keamanan yang diterapkan oleh perusahaan-perusahaan di sektor ini.