Senat AS Rancang Aturan Baru, Wajibkan Perusahaan AI Mitigasi Risiko Besar

Para negosiator di Senat Amerika Serikat tengah membahas rancangan undang-undang yang akan meletakkan tanggung jawab pada perusahaan teknologi untuk merancang produk kecerdasan buatan (AI) yang aman. Menurut laporan Reuters yang mengutip beberapa sumber di Senat, proposal ini juga dapat memberikan wewenang kepada pemerintah AS untuk memblokir perilisan model AI yang dianggap berbahaya.

Detail Rencana Regulasi

Proposal legislasi ini bertujuan untuk menciptakan apa yang disebut "kewajiban kehati-hatian" (duty of care) bagi para pengembang AI, menurut dua staf Senat. Perusahaan akan diwajibkan untuk merancang produk mereka dengan tujuan mencegah "risiko katastropik", seperti potensi penggunaan sistem AI oleh aktor jahat untuk merancang senjata nuklir atau biologis.

Berdasarkan keterangan seorang sumber yang mengetahui deliberasi tersebut, para negosiator berupaya memberikan pemerintah AS kekuatan untuk memblokir perilisan model AI tertentu. Namun, perusahaan akan memiliki hak untuk menentang keputusan tersebut di pengadilan federal. Selain itu, RUU ini juga akan membatasi negara bagian untuk memberlakukan undang-undang mereka sendiri terkait risiko yang ditimbulkan oleh model AI.

Konteks dan Pihak Terlibat

Ad

Regulasi yang diusulkan ini akan berlaku untuk model-model AI dengan kapabilitas paling canggih. Perusahaan AS yang berada di garis depan pengembangan AI ini termasuk Google (Alphabet), Anthropic, dan OpenAI. Pembahasan ini muncul di tengah meningkatnya tekanan terhadap Kongres dan pemerintah AS untuk mengatasi risiko yang ditimbulkan oleh sistem AI canggih.

Senator Ted Cruz, dalam sebuah unggahan di X, mengonfirmasi bahwa ia sedang mengerjakan legislasi bersama Senator Amy Klobuchar dan John Thune untuk "mengatasi risiko katastropik yang melibatkan ancaman biologis atau nuklir." Senator Klobuchar menambahkan dalam sebuah pernyataan kepada Reuters, "Itu termasuk mewajibkan pengembang untuk bekerja sama dengan para ahli pemerintah untuk memverifikasi dan menguji model guna memastikan AI aman."

Tantangan Legislatif

Meskipun para negosiator mencapai kesepakatan, pengesahan RUU ini menghadapi tantangan dari kalender kongres yang ketat. Dewan Perwakilan Rakyat dijadwalkan hanya akan bersidang selama satu minggu sebelum pemilihan sela pada 3 November, sementara Senat diperkirakan akan berada di Washington selama tiga minggu. Seluruh detail RUU ini masih dalam tahap negosiasi.