Ilmuwan Utama OpenAI Peringatkan AI di Ambang 'Evolusi Mandiri', Serukan Perlambatan Industri

Ilmuwan Utama OpenAI, Jakub Pachocki, baru-baru ini mengeluarkan peringatan serius bahwa kecerdasan buatan (AI) berkembang dengan kecepatan yang mengkhawatirkan, dan kemampuannya untuk berevolusi secara mandiri sudah di depan mata. Ia menyerukan agar laboratorium AI secara sukarela memperlambat pengembangan untuk mengantisipasi risiko yang belum sepenuhnya dipahami.

Peringatan tentang 'Perbaikan Diri Rekursif'

Pachocki, dalam sebuah tulisan panjang, menyatakan bahwa model AI dalam waktu singkat telah mampu mengoperasikan komputer, berkolaborasi dengan manusia dan AI lain, serta menjalankan proyek penelitian. Ia memperkirakan bahwa AI akan segera mencapai kemampuan untuk memperbaiki dirinya sendiri secara rekursif (*recursive self-improvement*) tanpa intervensi manusia.

Proses ini dianggap sebagai jalur kunci menuju Kecerdasan Buatan Umum (AGI) dan berpotensi memicu "ledakan kecerdasan" yang sulit dikendalikan. "Ini adalah momen yang menuntut kehati-hatian ekstrem," tulis Pachocki. "Saya khawatir tidak ada yang benar-benar siap menghadapi konsekuensi dari peningkatan kecerdasan mesin yang terus berlanjut dengan cepat."

Paradoks Industri: Antara Cemas dan Berlomba

Peringatan Pachocki menggemakan kekhawatiran dari para eksekutif teknologi lainnya, namun muncul di tengah perlombaan sengit antar perusahaan untuk meluncurkan model yang lebih kuat. Situasi ini menciptakan paradoks di mana para pemimpin industri menyuarakan kecemasan sambil terus mendorong batas kemampuan teknologi.

Ad

Beberapa fakta yang menyoroti paradoks ini:

• Anthropic, pesaing OpenAI, pada bulan Juni menunjukkan bagaimana model Claude-nya telah terlibat dalam riset dan pengembangan AI, menjadikan jalur menuju perbaikan diri rekursif "terlihat nyata".
• CEO SoftBank, Masayoshi Son, merevisi prediksinya dan menyatakan superinteligensi dapat tiba dalam dua tahun setelah mengetahui bahwa "model [AI] sedang merancang model masa depan".
• CEO Nvidia, Jensen Huang, menanggapi rilis model terbaru OpenAI dengan menyatakan di platform X bahwa "era AGI telah tiba".

Implikasi bagi Investor dan Keamanan

Meskipun ada seruan untuk berhati-hati, investor justru menanamkan modal besar ke perusahaan rintisan yang berfokus pada AI yang dapat memperbaiki dirinya sendiri. Perusahaan seperti Inherent, yang didirikan oleh mantan peneliti DeepMind, berhasil mengumpulkan $50 juta, sementara laboratorium AI Recursive Superintelligence telah meraih pendanaan sebesar $650 juta.

Di sisi lain, kekhawatiran keamanan mulai berdampak pada strategi produk. OpenAI sendiri membatasi perilisan model terbarunya, GPT-6 Astra, dengan alasan kemampuan keamanan siber yang canggih. Demikian pula, Anthropic belum merilis model mutakhirnya, Mythos, ke publik karena alasan serupa. Hal ini menandakan bahwa risiko dan potensi penyalahgunaan menjadi pertimbangan utama dalam peluncuran teknologi AI generasi berikutnya.