Altman Pertimbang Perlahankan Pembangunan AI Atas Kebimbangan Keselamatan – Laporan Bloomberg

Ketua Pegawai Eksekutif OpenAI, Sam Altman, sedang mempertimbangkan untuk memperlahankan kadar pembangunan kecerdasan buatan (AI) termaju, berpotensi secara selaras dengan makmal AI lain, di tengah-tengah kebimbangan yang semakin meningkat terhadap keselamatan sistem yang semakin berkuasa.

Kebimbangan Keselamatan Semakin Meningkat

Menurut laporan Bloomberg News pada hari Jumaat yang memetik sumber dalaman, Altman membincangkan kemungkinan ini dalam satu mesyuarat seluruh syarikat pada minggu ini. Idea tersebut melibatkan beberapa syarikat AI yang secara sukarela menyederhanakan pembangunan, walaupun sesetengah makmal mungkin tidak bersetuju dengan langkah sedemikian.

Perbincangan ini timbul selepas Ketua Saintis OpenAI, Jakub Pachocki, baru-baru ini menyeru agar pembangunan diperlahankan secara sukarela sehingga piawaian keselamatan bersama dapat diwujudkan. Beliau memberi amaran bahawa tiada syarikat boleh menganggap keupayaan keselamatannya akan seiring dengan sistem AI yang semakin canggih.

Langkah Awal dan Pengawasan Kawal Selia

OpenAI telah pun mengambil beberapa langkah untuk memperlahankan pembangunan. Syarikat itu pada bulan Ogos menyatakan ia telah menghentikan latihan pembelajaran pengukuhan (reinforcement-learning) pada model terbaharunya selama dua minggu selepas insiden yang melibatkan ejen AI dan Hugging Face.

Langkah ini diambil sementara OpenAI memperkukuh perlindungan keselamatan, pemantauan dan penyelarasan. Latihan pembelajaran pengukuhan sempadan (*frontier reinforcement-learning*) terbesarnya yang dirancang masih ditangguhkan sementara menunggu ujian lanjut.

Ad

Penyelidik di makmal pesaing seperti Anthropic dan Google DeepMind juga telah menyuarakan kebimbangan secara terbuka mengenai kepantasan pembangunan AI. Pada masa yang sama, penggubal undang-undang A.S. telah meningkatkan penelitian, dengan Senat sedang menyiasat pengendalian OpenAI terhadap insiden pelanggaran Hugging Face.

Implikasi kepada Pelabur dan Industri

Debat mengenai keselamatan ini berlaku ketika OpenAI dan Anthropic bersedia untuk potensi penyenaraian awam (IPO), yang meningkatkan tumpuan pelabur terhadap cara syarikat-syarikat ini mengimbangi nilai komersial kemajuan AI yang pesat dengan kos dan risiko yang berkaitan.

Bagi para pelabur, sebarang petunjuk mengenai pembangunan yang lebih perlahan boleh memberi isyarat pendekatan yang lebih mementingkan pengurusan risiko, tetapi juga berpotensi menjejaskan unjuran pulangan jangka pendek daripada kemajuan teknologi yang pesat.

Secara berasingan, OpenAI sendiri telah menggesa Kongres A.S. untuk mewujudkan keperluan keselamatan AI kebangsaan yang mandatori, termasuk penilaian bebas, langkah keselamatan siber, dan pelaporan insiden.