Citi: Seruan Perlambatan AI Adalah Upaya Laboratorium Membentuk Regulasi Sebelum Krisis

Analis Citi pada hari Selasa menyatakan bahwa seruan dari laboratorium kecerdasan buatan (AI) untuk memperlambat pengembangan AI terdepan (*frontier AI*) kemungkinan besar didorong oleh upaya untuk memengaruhi kerangka peraturan sebelum terjadinya insiden besar. Bank investasi tersebut berpendapat bahwa ini adalah langkah strategis untuk membentuk kebijakan, bukan semata-mata didasari oleh kekhawatiran akan keamanan.

Motif Strategis di Balik Seruan Perlambatan

Menurut Citi, laboratorium-laboratorium AI berusaha untuk membimbing para pembuat kebijakan ke arah regulasi berbasis kapabilitas (*capability-based regulation*). Tujuannya adalah untuk menetapkan aturan main sebelum sebuah peristiwa signifikan terkait AI memicu tindakan pemerintah yang lebih luas dan berpotensi kurang terinformasi secara teknis.

Langkah proaktif ini dinilai sebagai cara untuk mengendalikan narasi dan memastikan bahwa peraturan yang akan datang dapat dipahami dan dapat diimplementasikan oleh industri, sekaligus mengatasi potensi risiko.

Dampak pada Persaingan dan Adopsi Pasar

Citi mencatat bahwa perlambatan pengembangan AI dapat berdampak pada pertumbuhan pendapatan laboratorium, karena menunda adopsi di tingkat perusahaan yang memerlukan peningkatan kapabilitas lebih lanjut. Namun, perlambatan ini juga memberikan keuntungan bagi para pesaing.

Langkah ini akan memberikan waktu bagi model *open-weight* dan model *closed-weight* lain yang tertinggal untuk mengejar ketertinggalan dari sistem-sistem terdepan. Citi menyoroti data untuk mengilustrasikan kesenjangan ini:

Ad

• Dari 7 April hingga 1 September, skor intelijen AI terdepan naik dari 41 menjadi 53.
• Pada periode yang sama, skor model *open-weight* terkemuka naik dari 28 menjadi 45.

Meski kesenjangan antara sistem terdepan dan sistem terbuka telah melebar dari 7 menjadi 9 poin dalam dua minggu terakhir, setiap perlambatan pada kemajuan AI terdepan kemungkinan besar akan mempersempit kesenjangan ini.

Percepatan Teknologi dan Risiko Tersembunyi

Para analis juga menunjukkan adanya "kesenjangan kapabilitas" antara potensi sebuah model dengan pemanfaatannya oleh pengguna. Hal ini tidak hanya memperlambat adopsi di tingkat perusahaan, tetapi juga menciptakan rasa aman yang keliru mengenai risiko yang ditimbulkan oleh sistem AI.

Selain itu, Citi melaporkan bahwa kemajuan terbaru dalam *Recursive Self Improvement*—kemampuan sistem AI untuk meningkatkan dirinya sendiri secara otonom—telah melaju lebih cepat dari yang diperkirakan. Menurut sumber industri yang dikutip oleh bank tersebut, perkembangan ini "mulai terjadi di seluruh industri," jauh lebih awal dari perkiraan sebelumnya pada tahun 2028.