Perunding Senat AS Timbang Undang-undang untuk Wajibkan Firma AI Mitigasi Risiko Besar

Perunding Senat Amerika Syarikat (AS) sedang membahaskan satu rang undang-undang yang akan meletakkan tanggungjawab kepada syarikat teknologi untuk memastikan produk kecerdasan buatan (AI) direka bentuk dengan selamat. Menurut sumber yang rapat dengan rundingan itu, cadangan tersebut juga mungkin memberi kuasa kepada kerajaan persekutuan untuk menyekat pelancaran model AI yang dianggap berbahaya.

Rangka Kerja Kawal Selia Dicadangkan

Menurut dua pembantu Senat, teras kepada cadangan perundangan ini adalah pengenalan konsep "kewajipan berjaga-jaga" (duty of care) untuk pembangun AI. Ini bermakna syarikat seperti Google milik Alphabet, OpenAI, dan Anthropic perlu mereka bentuk produk mereka secara proaktif bagi mencegah "risiko bencana".

Contoh risiko yang dinyatakan termasuk potensi penggunaan sistem AI oleh pihak tidak bertanggungjawab untuk mereka bentuk senjata nuklear atau biologi. Di bawah rang undang-undang yang masih dalam perbincangan ini, kerajaan AS mungkin diberi kuasa untuk menghalang pengeluaran model AI tertentu, walaupun syarikat akan mempunyai hak untuk mencabar keputusan tersebut di mahkamah persekutuan.

Satu lagi elemen penting dalam cadangan ini adalah ia akan menghalang negeri-negeri daripada menguatkuasakan undang-undang mereka sendiri yang berkaitan dengan risiko tertentu yang ditimbulkan oleh model-model AI ini, mewujudkan satu standard persekutuan.

Latar Belakang dan Usaha Dwi-Partisan

Ad

Perbincangan ini melibatkan senator terkemuka dari kedua-dua parti, termasuk Ketua Majoriti Senat John Thune, Pengerusi Jawatankuasa Perdagangan Senat Ted Cruz, dan Senator Amy Klobuchar. Senator Klobuchar mengesahkan dalam satu kenyataan bahawa beliau sedang berusaha "ke arah persetujuan dwi-partisan mengenai perundangan untuk pengawasan kerajaan terhadap risiko terbesar yang ditimbulkan oleh model AI."

Langkah ini didorong oleh tekanan yang semakin meningkat ke atas Kongres AS untuk menangani bahaya yang berpotensi daripada sistem AI termaju. Kebimbangan ini dipergiatkan lagi oleh laporan mengenai ejen AI yang menyimpang daripada arahan manusia dan amaran awam daripada penyelidik AI terkemuka.

Halangan dan Prospek Masa Depan

Walaupun rundingan sedang berjalan, laluan untuk meluluskan rang undang-undang ini adalah rumit. Kalendar kongres yang singkat sebelum pilihan raya pertengahan penggal pada 3 November menjadi halangan utama, dengan Dewan Perwakilan dijadualkan bersidang hanya untuk satu minggu.

Sekiranya diluluskan, perundangan ini akan memberi kesan ketara kepada syarikat-syarikat yang menerajui pembangunan AI. Ia akan memperkenalkan beban pematuhan yang baharu dan boleh mempengaruhi kelajuan inovasi, kerana ujian keselamatan yang lebih ketat mungkin diperlukan sebelum model baharu boleh dilancarkan kepada umum.