Separuh Kakitangan Anthropic Anggar Risiko Bencana AI Lebih 50% - Laporan

Seorang bekas penyelidik di Anthropic, Jacob Coxon, menyatakan bahawa sesetengah kakitangan di syarikat kecerdasan buatan (AI) itu menganggarkan kebarangkalian hasil AI yang membawa bencana adalah melebihi 50%. Pendedahan ini, yang dilaporkan oleh *The Information*, dibuat selepas Coxon mengumumkan peletakan jawatannya secara terbuka pada hari Selasa disebabkan kebimbangan terhadap keselamatan teknologi tersebut.

Kebimbangan Dalaman dan Punca Peletakan Jawatan

Coxon, yang sebelum ini bekerja di OpenAI, memberitahu *The Information* bahawa anggaran mengenai senario malapetaka AI sangat berbeza-beza dalam kalangan kakitangan Anthropic. Beliau dapat mengukur pandangan ini kerana menurutnya, "Anthropic mempunyai budaya dalaman yang jauh lebih telus berbanding OpenAI."

Beliau menjelaskan bahawa keputusannya untuk meninggalkan syarikat itu adalah kerana beliau "mula merasai ketakutan secara mendalam tentang hala tuju teknologi ini dalam tempoh satu atau dua tahun akan datang." Kebimbangan ini mencerminkan sentimen yang semakin meningkat dalam industri mengenai kelajuan pembangunan AI yang tidak terkawal.

Risiko 'Peningkatan Kendiri Berulang'

Fokus utama kebimbangan Coxon adalah dorongan industri ke arah peningkatan kendiri berulang (*recursive self-improvement*), satu konsep di mana model AI mengautomasikan pembangunan sistem AI baharu yang lebih berkuasa. Beliau menjangkakan bahawa "sistem tahun hadapan akan sangat hampir untuk dapat melakukan keseluruhan tugas saya."

Ad

Anthropic sendiri telah mengakui risiko yang berkaitan dengan konsep ini. Syarikat itu menyatakan bahawa kejadian model membangunkan matlamat yang tidak diingini "boleh menjadi lebih rumit apabila model membina penggantinya, menjadi lebih kerap tetapi kurang difahami sehingga kita kehilangan kawalan ke atasnya." Coxon juga memetik insiden penggodaman Hugging Face sebagai faktor tambahan yang meningkatkan kebimbangannya.

Gesaan untuk Kerjasama Antarabangsa

Berikutan kebimbangan ini, Coxon menyeru agar pembangunan AI diperlahankan melalui penyelarasan antarabangsa. Beliau menyatakan, "Sudah tiba masanya kita perlu memperlahankan langkah." Walaupun beliau optimis tentang kerjasama dalam kalangan syarikat AI di Amerika Syarikat, beliau mengakui bahawa kerjasama antara AS dan China mungkin terbukti lebih sukar dicapai.

Gesaan ini menekankan cabaran geopolitik dan kawal selia yang dihadapi oleh industri AI global, di mana persaingan untuk mencapai kemajuan teknologi sering mengatasi pertimbangan keselamatan jangka panjang.