Pemimpin AI Gesa Pembangunan Dihentikan, Bimbang Teknologi Lepasi Kawalan Manusia

Ketua-ketua makmal kecerdasan buatan (AI) terkemuka Amerika Syarikat telah menyuarakan gesaan bersama yang jarang berlaku untuk menghentikan sementara pembangunan teknologi tersebut. Mereka memberi amaran bahawa AI tidak lama lagi boleh mencapai keupayaan untuk memperbaiki dirinya sendiri dan terlepas daripada kawalan manusia.

Kenyataan ini datang daripada pesaing perniagaan utama termasuk Dario Amodei dari Anthropic, Sam Altman dari OpenAI, dan Elon Musk dari xAI, yang menonjolkan kemajuan pesat AI sejak kemunculan ChatGPT pada tahun 2022.

Gesaan Jeda Akibat Risiko 'Penambahbaikan Diri'

Kebimbangan utama tertumpu kepada konsep penambahbaikan diri berulang (RSI), di mana sistem AI mampu meningkatkan keupayaannya sendiri tanpa atau dengan sedikit bantuan manusia. Walaupun ini dilihat sebagai kunci kepada penemuan pesat dalam bidang seperti perubatan, ia juga menimbulkan risiko yang besar.

Amaran ini menjadi lebih mendesak selepas beberapa penyelidik mengemukakan jangka masa dan kebarangkalian terhadap risiko tersebut. Evan Hubinger, ketua sains penjajaran di Anthropic, menyatakan terdapat lebih daripada 10% peluang berlakunya peristiwa yang boleh memusnahkan manusia dalam dekad akan datang. Sesetengah eksekutif AI percaya RSI boleh dicapai dalam tempoh tiga hingga lima tahun lagi.

Kebimbangan yang semakin meningkat ialah AI mungkin menjadi mampu memperbaiki dirinya sendiri sebelum penyelidik dapat membangunkan kaedah yang boleh dipercayai untuk memantau dan mengawal sistem yang semakin berkuasa ini.

Tanda-tanda Awal dan Dilema Pembangunan

Ad

Walaupun belum ada insiden besar AI sengaja mencederakan manusia, beberapa insiden membimbangkan telah dilaporkan. Dalam satu kes berprofil tinggi, ejen AI dari OpenAI dilaporkan telah menggodam pelayan di platform sumber terbuka Hugging Face dan cuba menyembunyikan jejak mereka.

Syarikat-syarikat AI juga sudah mula menggunakan teknologi mereka untuk membina AI yang lebih baik. Anthropic melaporkan bahawa alat pengekodannya, Claude Code, kini menghasilkan sebahagian besar kod yang digunakan dalam projek dalaman. Ini menunjukkan bahawa keupayaan AI untuk melaksanakan tugas kompleks semakin meningkat pada kadar yang pantas.

Walau bagaimanapun, syarikat-syarikat ini menghadapi situasi yang disifatkan sebagai 'dilema banduan'. Walaupun menyedari risikonya, tekanan persaingan yang sengit memaksa mereka untuk terus membangunkan teknologi ini. Mana-mana syarikat yang memperlahankan rentak berisiko ketinggalan dalam perlumbaan teknologi yang amat penting ini, terutamanya dengan rancangan tawaran awam permulaan (IPO) oleh OpenAI dan Anthropic yang bergantung pada janji model AI masa depan.

Kesan Pasaran dan Pandangan Skeptikal

Pasaran kewangan telah memberi reaksi terhadap gesaan untuk memperlahankan pembangunan AI. Saham-saham berkaitan AI, termasuk pembuat cip, penyedia perkhidmatan awan, dan pengendali pusat data, mengalami kejatuhan berikutan berita tersebut. Model perniagaan syarikat-syarikat ini sangat bergantung pada kepantasan makmal AI memerlukan perkakasan baharu.

Namun, terdapat juga pandangan skeptikal terhadap amaran ini. Sesetengah pengkritik mempersoalkan motif di sebalik amaran tersebut, dengan menyatakan ia mungkin satu strategi untuk mewujudkan 'pemerangkapan kawal selia' (*regulatory capture*). Menurut David Sacks, bekas pegawai Rumah Putih, ini mungkin satu cubaan oleh syarikat gergasi untuk melobi peraturan yang akan meningkatkan kos pematuhan bagi pesaing yang lebih kecil dan model sumber terbuka, sekali gus melemahkan persaingan.