Saintis Utama OpenAI Beri Amaran AI Mampu Berevolusi Sendiri, Gesa Pembangunan Diperlahankan

Saintis Utama OpenAI, Jakub Pachocki, telah mengeluarkan amaran keras bahawa kecerdasan buatan (AI) sedang berkembang pada kadar yang begitu pantas sehingga ia mungkin tidak lama lagi akan berupaya untuk memperbaiki dirinya sendiri tanpa campur tangan manusia. Beliau menjangkakan makmal-makmal AI perlu memperlahankan pembangunan secara sukarela atas faktor keselamatan.

Amaran Mengenai 'Penambahbaikan Kendiri Rekursif'

Pachocki, dalam satu hantaran pada hari Ahad, menyatakan bahawa model-model AI kini sudah boleh mengendalikan komputer, bekerjasama dengan manusia serta sistem AI lain, dan menjalankan projek penyelidikan. Beliau memberi amaran bahawa langkah seterusnya ialah penambahbaikan kendiri rekursif, satu proses di mana AI boleh mengubah dan menaik taraf kodnya sendiri secara autonomi.

Konsep ini dianggap sebagai laluan utama ke arah Kecerdasan Buatan Umum (AGI) dan boleh mencetuskan "ledakan kecerdasan" yang sukar dikawal. "Ini adalah saat yang memerlukan kewaspadaan yang amat tinggi," tulis Pachocki. Beliau menyuarakan kebimbangan bahawa tiada siapa yang benar-benar bersedia untuk menghadapi akibat daripada peningkatan pesat dalam kecerdasan mesin.

Paradoks Industri: Perlumbaan dan Kebimbangan

Walaupun amaran dikeluarkan, industri teknologi kini berada dalam keadaan paradoks: wujudnya kebimbangan mendalam mengenai keselamatan sambil persaingan untuk membina model yang lebih berkuasa terus memuncak. Pandangan Pachocki selari dengan eksekutif AI lain, termasuk Ketua Pegawai Eksekutif Anthropic, Dario Amodei, yang memberi amaran tentang potensi penggantian pekerjaan secara meluas.

Ad

Beberapa perkembangan terkini mengesahkan kebimbangan ini:

• Anthropic pada bulan Jun mendedahkan bahawa laluannya ke arah penambahbaikan kendiri rekursif kini "telah kelihatan" melalui penyelidikannya.
• Ketua Pegawai Eksekutif SoftBank, Masayoshi Son, meramalkan bahawa kecerdasan super mungkin tiba dalam masa dua tahun selepas mengetahui bahawa "model [AI] sedang mereka bentuk model masa depan."
• Kertas penyelidikan OpenAI sendiri pada bulan Jun mengakui kemunculan "tanda-tanda awal" penambahbaikan kendiri rekursif dalam sistem semasanya.

Implikasi Pasaran dan Pelaburan

Di sebalik gesaan untuk berhati-hati, perlumbaan AI terus menjadi tumpuan pelabur. Syarikat-syarikat pemula yang memberi fokus khusus kepada AI yang boleh memperbaiki diri sendiri sedang menarik modal yang besar. Antaranya ialah Inherent, yang diasaskan oleh bekas penyelidik DeepMind, yang mengumpul $50 juta, dan makmal AI Recursive Superintelligence, yang diasaskan oleh saintis terkemuka Richard Socher, yang telah memperoleh pembiayaan sebanyak $650 juta.

Syarikat-syarikat gergasi juga tidak ketinggalan, dengan Ketua Pegawai Eksekutif Nvidia, Jensen Huang, mengisytiharkan bahawa "era AGI telah tiba." Namun begitu, kebimbangan keselamatan telah mendorong beberapa syarikat untuk menahan produk mereka yang paling canggih. OpenAI telah mengehadkan pengeluaran model GPT-6 Astra kerana keupayaan keselamatan sibernya yang maju, manakala Anthropic juga belum mengeluarkan model Mythos miliknya kepada umum. Ironinya, OpenAI sendiri telah menetapkan matlamat untuk membina "penyelidik AI automatik sepenuhnya" dalam tempoh dua tahun, menunjukkan ketegangan antara cita-cita dan kewaspadaan dalam industri.