Anthropic: 26% Riset AI Kini Dipimpin oleh AI, Picu Kekhawatiran 'Recursive Self-Improvement'

Perusahaan kecerdasan buatan Anthropic telah merilis data baru yang mengukur seberapa besar porsi riset dan pengembangan (R&D) AI-nya kini dilakukan oleh AI itu sendiri. Data ini memberikan metrik baru untuk perdebatan mengenai apakah AI yang semakin cakap pada akhirnya dapat mempercepat pengembangan sistem yang lebih canggih lagi.

Peningkatan Peran AI dalam Riset

Menurut Anthropic, model AI-nya, Claude, sekarang "memimpin" 26% dari pekerjaan R&D AI di perusahaan tersebut. Angka ini merupakan lonjakan signifikan dari kurang dari 1% pada bulan Februari, hanya dalam kurun waktu enam bulan.

Anthropic mendefinisikan "memimpin" sebagai penyelesaian sebagian besar tugas dari awal hingga akhir berdasarkan perintah tingkat tinggi, dengan supervisi dari manusia. Lebih dari 90% R&D AI di perusahaan tersebut dilakukan pada tingkat di mana AI "berkolaborasi" dengan manusia. Pada bulan Agustus, Anthropic mencatat sekitar 30.000 agen AI secara simultan melakukan pekerjaan riset dan rekayasa di platform internalnya.

Implikasi untuk Skenario 'Recursive Self-Improvement'

Signifikansi data ini bukan terletak pada angka 26% itu sendiri, melainkan pada potensi *feedback loop* atau putaran umpan balik yang diciptakannya. Skenario ini, di mana AI melakukan riset AI untuk menghasilkan AI yang lebih baik, yang kemudian melakukan lebih banyak riset AI, adalah komponen kunci dari teori *recursive self-improvement* (perbaikan diri secara rekursif).

Ad

Teori ini menjadi dasar bagi kekhawatiran tentang risiko jangka panjang dari AI tingkat lanjut. Meskipun demikian, Anthropic menekankan bahwa ambang batas terpenting untuk skenario ini belum tercapai: R&D AI yang sepenuhnya otonom. Saat ini, Claude belum beroperasi secara otonom untuk setiap bagian R&D yang terukur, yang berarti manusia tetap berada dalam siklus pengembangan (*human in the loop*).

Metrik Baru untuk Melacak Kemajuan AI

Walaupun data ini tidak membuktikan bahwa perbaikan diri secara rekursif telah tiba, data ini menyediakan cara untuk melacak seberapa cepat AI mengambil alih pekerjaan membangun AI di masa depan. Tren ini dapat menjadi semakin penting bagi investor dan industri jika peran manusia dalam siklus pengembangan terus menyusut.

Anthropic juga menemukan bahwa sekitar 12% dari daya komputasi yang digunakan untuk R&D AI yang didorong oleh AI dialokasikan untuk pekerjaan keamanan (*safety work*) selama satu minggu di bulan Juli. Namun, perusahaan memperingatkan bahwa daya komputasi adalah ukuran yang tidak sempurna untuk investasi keamanan.