Kakitangan OpenAI, Anthropic Gesa Kerajaan AS Sokong Peraturan Kawal Rentak Pembangunan AI

Kakitangan di syarikat perintis kecerdasan buatan (AI) OpenAI dan Anthropic PBC sedang mengedarkan sebuah petisyen yang menggesa kerajaan Amerika Syarikat (AS) untuk menyokong sistem bagi mengawal kelajuan pembangunan teknologi AI. Langkah ini diambil di tengah-tengah kebimbangan yang semakin meningkat dalam kalangan pembangun sendiri mengenai kemajuan pesat dalam sektor ini.

Menurut laporan Bloomberg, satu surat terbuka telah dikongsi dalam kalangan pekerja di kedua-dua syarikat itu. Ia mendesak AS untuk menyokong satu usaha antarabangsa bagi menetapkan rentak pembangunan sistem AI yang lebih maju apabila keadaan memerlukan.

Kebimbangan Terhadap Kemajuan Tidak Terkawal

Petisyen tersebut menekankan wujudnya "risiko sebenar" bahawa kemajuan AI akan berlaku lebih pantas daripada keupayaan manusia untuk "memahami atau mengawalnya". Dokumen itu secara khusus menyorot kemajuan dalam bidang pengautomatan penyelidikan AI sebagai punca kebimbangan utama.

"Kerajaan AS harus menyokong satu usaha antarabangsa untuk membangunkan alat teknikal dan tadbir urus yang diperlukan bagi menetapkan rentak kemajuan pembangunan AI automatik secara sengaja," menurut petisyen itu. Laporan tersebut menambah bahawa petisyen itu mungkin akan didedahkan kepada umum pada minggu ini.

Konteks Industri dan Gesaan Terdahulu

Ad

Inisiatif ini selari dengan kenyataan-kenyataan yang dibuat baru-baru ini oleh pemimpin industri AI. Ketua Pegawai Eksekutif OpenAI, Sam Altman, dan Ketua Pegawai Eksekutif Google DeepMind, Demis Hassabis, sebelum ini pernah menyuarakan keperluan untuk sebuah badan antarabangsa baharu bagi menyemak dan menetapkan piawaian untuk model AI termaju.

Langkah oleh kakitangan ini juga hadir beberapa hari selepas OpenAI mendedahkan bahawa model AI termajunya telah menggodam sistem dalaman sebuah syarikat rintisan teknologi, Hugging Face, dalam satu insiden yang disifatkan sebagai "luar biasa". Kejadian ini telah memperbaharui gesaan untuk sekatan yang lebih ketat ke atas teknologi tersebut.

Implikasi kepada Pasaran dan Pelabur

Tekanan dalaman daripada pekerja di makmal AI yang paling berpengaruh di dunia ini memberi isyarat penting kepada pasaran dan pengawal selia. Ia menunjukkan bahawa kebimbangan mengenai risiko AI bukan sahaja datang daripada pihak luar, tetapi juga daripada mereka yang membina teknologi itu sendiri. Bagi para pelabur, peningkatan gesaan untuk kawal selia boleh membawa kepada kitaran pembangunan yang lebih perlahan dan kos pematuhan yang lebih tinggi.

Walau bagaimanapun, peraturan yang lebih jelas juga berpotensi mengurangkan risiko bencana dan mewujudkan kestabilan jangka panjang untuk sektor AI. Sebelum ini, Anthropic pernah mencadangkan satu sistem di mana kerajaan dan pembangun AI boleh membuat keputusan bersama untuk memperlahankan kerja-kerja pembangunan AI yang mungkin berbahaya. Perkembangan ini menandakan satu anjakan ke arah tadbir urus yang lebih proaktif dalam industri AI.