Anthropic: 26% Penyelidikan AI Kini Dipimpin oleh AI, Data Baharu untuk Perdebatan Risiko

Anthropic telah mengeluarkan data baharu yang menunjukkan sejauh mana kecerdasan buatan (AI) syarikat itu sendiri kini terlibat dalam penyelidikan dan pembangunan (R&D) AI, mendedahkan bahawa 26% daripada kerja tersebut kini 'dipimpin' oleh model AI Claude. Angka ini merupakan peningkatan mendadak daripada kurang 1% pada bulan Februari, memberikan metrik konkrit kepada kebimbangan mengenai potensi AI untuk mempercepatkan pembangunannya sendiri.

Peningkatan Mendadak Peranan AI

Menurut Anthropic, istilah 'dipimpin' merujuk kepada tugasan yang diselesaikan sebahagian besarnya dari awal hingga akhir oleh AI berdasarkan arahan peringkat tinggi, dengan penyeliaan oleh manusia. Syarikat itu juga menyatakan bahawa lebih daripada 90% kerja R&D AI mereka kini dilakukan pada tahap di mana AI 'bekerjasama' dengan manusia.

Perkembangan ini amat signifikan bukan kerana angka 26% itu semata-mata, tetapi kerana potensi wujudnya gelung maklum balas:

• AI menjalankan penyelidikan AI.
• Penyelidikan tersebut menghasilkan AI yang lebih baik.
• AI yang lebih baik ini kemudiannya menjalankan lebih banyak penyelidikan AI dengan lebih cekap.

Implikasi kepada Senario 'Penambahbaikan Kendiri'

Ad

Gelung maklum balas ini merupakan komponen teras dalam senario 'penambahbaikan kendiri secara berulang' (*recursive self-improvement*), yang menjadi asas kepada kebimbangan mengenai risiko jangka panjang daripada AI yang sangat maju. Data daripada Anthropic menyediakan cara untuk mengukur sejauh mana AI mengambil alih kerja membina AI masa depan.

Pada bulan Ogos, Anthropic melaporkan mempunyai kira-kira 30,000 ejen AI yang menjalankan kerja penyelidikan dan kejuruteraan secara serentak. Daripada lebih 1 bilion keputusan ejen yang dianalisis pada bulan tersebut, hanya sekitar 0.002% disekat oleh sistem pemantauan dalam talian.

Kawalan Manusia Masih Menjadi Kunci

Walaupun kadar perubahannya pantas, Anthropic menekankan bahawa ambang paling penting untuk senario penambahbaikan kendiri secara berulang belum dicapai, iaitu R&D AI yang autonomi sepenuhnya. Buat masa ini, Claude tidak beroperasi secara autonomi, yang bermakna manusia masih terlibat secara langsung dalam proses tersebut dan mengekalkan kawalan.

Syarikat itu juga mendapati bahawa dalam satu minggu pada bulan Julai, kira-kira 12% daripada kuasa pengkomputeran yang digunakan untuk R&D AI yang dipacu oleh AI ditumpukan kepada kerja-kerja keselamatan. Walaupun data ini tidak membuktikan bahawa penambahbaikan kendiri telah berlaku, ia menyediakan satu penanda aras penting untuk menjejaki trend yang boleh menjadi semakin kritikal sekiranya peranan manusia dalam kitaran pembangunan terus berkurangan.