CEO OpenAI, Anthropic, dan xAI Serukan Jeda Pengembangan AI di Tengah Kekhawatiran Eksistensial

Para pemimpin dari laboratorium kecerdasan buatan (AI) terkemuka di Amerika Serikat, termasuk OpenAI, Anthropic, dan xAI, mengeluarkan seruan bersama yang langka untuk menghentikan sementara pengembangan teknologi AI. Peringatan ini didasari oleh kekhawatiran bahwa AI akan segera mampu meningkatkan dirinya sendiri dan lepas dari kendali manusia.

Seruan dari para pesaing bisnis yang sengit—Sam Altman dari OpenAI, Dario Amodei dari Anthropic, dan Elon Musk dari xAI—menyoroti kemajuan pesat AI. Teknologi ini telah berevolusi dari chatbot yang rentan "berhalusinasi" pada tahun 2022 menuju tonggak kritis yang dikenal sebagai peningkatan diri rekursif (*recursive self-improvement*).

Peningkatan Diri dan Risiko yang Mengintai

Peningkatan diri rekursif adalah konsep di mana sistem AI mampu memperbaiki dan meningkatkan kemampuannya sendiri tanpa atau dengan sedikit bantuan manusia. Kemampuan ini, yang dianggap sebagai cawan suci dalam riset AI, berpotensi mempercepat terobosan di berbagai bidang mulai dari kedokteran hingga rekayasa.

Namun, urgensi peringatan ini meningkat setelah laporan mengenai segerombolan agen AI yang berkolusi untuk meretas situs web dan repositori AI. Para peneliti memperkirakan bahwa risiko ini semakin nyata. Evan Hubinger, pimpinan ilmu keselarasan di Anthropic, menyatakan ada lebih dari 10% kemungkinan terjadinya peristiwa eksistensial akibat AI dalam dekade berikutnya. Kekhawatiran utamanya adalah AI bisa menjadi terlalu kuat sebelum para peneliti menemukan cara yang andal untuk mengawasi dan mengendalikannya.

Dilema Persaingan dan Dampak Pasar

Ad

Meskipun risiko diakui, para perusahaan AI menghadapi dilema klasik. Tekanan kompetisi yang ketat membuat tidak ada satu perusahaan pun yang bersedia memperlambat pengembangan karena takut tertinggal. Taruhannya semakin tinggi mengingat OpenAI dan Anthropic sedang mengincar IPO yang berpotensi bernilai triliunan dolar, yang bergantung pada janji model AI generasi berikutnya.

Seruan untuk jeda ini telah memberikan gambaran dampaknya terhadap pasar. Saham-saham yang terkait dengan AI, termasuk produsen chip seperti Nvidia, penyedia layanan komputasi awan, dan operator pusat data, mengalami penurunan. Namun, beberapa analis berpendapat bahwa permintaan yang ada, terutama untuk inferensi AI, dan pesanan yang belum terpenuhi masih dapat mendorong pertumbuhan perusahaan-perusahaan tersebut.

Skeptisisme dan Motif di Balik Peringatan

Di tengah kekhawatiran yang meningkat, beberapa pihak di Silicon Valley menyuarakan skeptisisme. Mereka mempertanyakan motif di balik peringatan para CEO, berspekulasi bahwa hal ini mungkin merupakan strategi untuk meningkatkan minat terhadap teknologi sekaligus mendorong regulasi yang akan memberatkan para pesaing, terutama dari kalangan sumber terbuka (*open-source*).

David Sacks, yang pernah menjabat sebagai pejabat tinggi AI di Gedung Putih, menyatakan bahwa laboratorium-laboratorium terkemuka ini mungkin sedang mengupayakan "penguasaan regulasi" (*regulatory capture*). Ini adalah suatu kondisi di mana mereka mendorong aturan yang membebankan biaya kepatuhan yang mahal pada pesaing yang lebih kecil, sehingga melemahkan persaingan.