CEO OpenAI Sam Altman Pertimbangkan Perlambat Pengembangan AI di Tengah Kekhawatiran Keamanan

CEO OpenAI Sam Altman dilaporkan sedang mempertimbangkan untuk memperlambat laju pengembangan kecerdasan buatan (AI) mutakhir, sebuah langkah yang berpotensi dikoordinasikan dengan laboratorium AI lainnya. Wacana ini muncul di tengah meningkatnya kekhawatiran industri mengenai keamanan sistem AI yang kian mumpuni, menurut laporan Bloomberg News.

Detail Wacana Perlambatan

Menurut sumber yang mengetahui masalah tersebut yang dikutip oleh Bloomberg, Altman membahas kemungkinan ini dalam sebuah pertemuan internal perusahaan pada minggu ini. Gagasan tersebut dapat melibatkan beberapa perusahaan AI yang secara sukarela memoderasi pengembangan, meskipun belum ada kepastian bahwa semua laboratorium akan menyetujui langkah tersebut.

Diskusi ini mencerminkan eskalasi perdebatan tentang keamanan di seluruh industri teknologi. Wacana perlambatan ini sejalan dengan seruan dari Chief Scientist OpenAI, Jakub Pachocki, yang baru-baru ini menyarankan perlambatan sukarela hingga standar keamanan bersama dapat ditetapkan.

Konteks Keamanan dan Regulasi

OpenAI sendiri telah mengambil beberapa langkah untuk memperlambat pengembangan. Pada bulan Agustus, perusahaan menyatakan telah menghentikan sementara pelatihan *reinforcement-learning* pada model terbarunya selama dua minggu setelah insiden yang melibatkan agen AI dan Hugging Face, untuk memperkuat keamanan dan pengawasan.

Ad

Kekhawatiran ini tidak hanya datang dari OpenAI. Para peneliti di Anthropic dan Google DeepMind juga telah secara terbuka menyuarakan keprihatinan serupa mengenai kecepatan pengembangan AI. Hal ini telah menarik perhatian regulator, di mana Senat AS kini meningkatkan pengawasan dan menyelidiki penanganan OpenAI atas insiden Hugging Face.

Implikasi bagi Investor

Debat mengenai kecepatan versus keamanan ini menjadi sangat relevan karena OpenAI dan pesaingnya, Anthropic, bersiap untuk potensi penawaran umum perdana (IPO). Investor akan mencermati dengan saksama bagaimana perusahaan-perusahaan ini menyeimbangkan nilai komersial dari kemajuan AI yang pesat dengan biaya dan risiko yang terkait dengan pengembangan sistem yang lebih kuat.

Sejalan dengan itu, OpenAI secara terpisah telah mendesak Kongres AS untuk menetapkan persyaratan keamanan AI nasional yang bersifat wajib. Persyaratan ini mencakup penilaian independen, langkah-langkah keamanan siber, dan pelaporan insiden untuk memastikan pengembangan yang bertanggung jawab.