Peneliti Google DeepMind Peringatkan Risiko Eksistensial AI Setelah Mengundurkan Diri

Seorang peneliti kecerdasan buatan (AI) yang baru-baru ini mengundurkan diri dari Google DeepMind menyatakan bahwa teknologi tersebut berpotensi menyebabkan kerugian besar bagi umat manusia. Peringatan ini menyoroti meningkatnya kekhawatiran di kalangan internal industri mengenai laju pengembangan AI yang tidak terkendali.

Peringatan Keras dari Kalangan Internal

Bilal Chughtai, yang hingga baru-baru ini menjabat sebagai insinyur riset di Google Deepmind, menyuarakan keprihatinannya terhadap arah pengembangan AI. Ia meyakini bahwa sistem super-intelijen yang jauh melampaui kemampuan manusia dapat muncul dalam beberapa tahun ke depan dan terbukti berbahaya.

"Saya sungguh-sungguh percaya bahwa AI berpotensi memusnahkan kita semua, dan kita mungkin kehabisan waktu untuk menghindari hasil ini," kata Chughtai dalam unggahan di X dan LinkedIn pada hari Senin. Peringatannya menambah suara para peneliti AI lain yang khawatir akan implikasi dari pengembangan teknologi ini.

Kekhawatiran Meluas di Industri AI

Pernyataan Chughtai bukanlah insiden yang terisolasi. Pekan lalu, peneliti Anthropic, Jacob Coxon, juga mengumumkan pengunduran dirinya sebagian karena potensi bahaya yang ditimbulkan oleh AI. Sejalan dengan itu, kepala Anthropic, Dario Amodei, menerbitkan esai yang menyerukan regulasi yang lebih ketat dan perlambatan laju pengembangan AI.

Ad

Proposal Amodei segera mendapat dukungan dari tokoh-tokoh besar industri lainnya, termasuk Elon Musk dari xAI dan Sam Altman dari OpenAI. Hal ini mengindikasikan adanya konsensus yang berkembang di antara para pemimpin AI tentang perlunya kehati-hatian yang lebih besar.

Implikasi bagi Pasar dan Regulasi

Kekhawatiran yang meningkat ini memiliki implikasi nyata bagi pasar. Sam Altman secara terpisah menyatakan bahwa OpenAI menunda penawaran umum perdana (IPO) hingga setelah tahun 2026. Penundaan ini secara eksplisit disebabkan oleh kekhawatiran atas keamanan dan regulasi AI, sebuah sinyal signifikan bagi para investor di sektor teknologi.

Di sisi lain, sikap pemerintah tampak berbeda. Presiden AS Donald Trump pada hari Senin menyatakan bahwa AS sudah memiliki "pagar pengaman" untuk mengatur perusahaan AI. Pernyataan ini menunjukkan adanya potensi ketegangan antara seruan industri untuk memperlambat laju inovasi demi keamanan dan dorongan pemerintah untuk mempertahankan keunggulan teknologi.