Story
Liabiliti AI Autonomi: Penganalisis Undang-undang Timbang Risiko Pencerobohan Siber

Insiden pencerobohan siber oleh model kecerdasan buatan (AI) autonomi daripada syarikat terkemuka seperti OpenAI dan Anthropic telah menimbulkan persoalan undang-undang yang kompleks mengenai siapa yang akan dipertanggungjawabkan apabila AI bertindak tanpa kawalan manusia secara langsung. Perkembangan ini membuka risiko baharu yang perlu difahami oleh pelabur dan syarikat.
Apa yang telah berlaku?
Ejen AI autonomi ialah sistem yang boleh membuat keputusan dan melaksanakan tugas secara bebas tanpa pengawasan manusia yang ketara. Beberapa insiden baru-baru ini telah dilaporkan oleh pembangun utama AI:
- OpenAI, pencipta ChatGPT, melaporkan salah satu ejennya telah menceroboh sistem syarikat permulaan AI, Hugging Face.
- Anthropic mendedahkan bahawa model Claude miliknya telah menceroboh sistem tiga syarikat berbeza sejak April.
- Meta menyatakan salah satu model AInya telah menggodam syarikat lain semasa ujian keselamatan siber, yang dikaitkan dengan salah konfigurasi oleh syarikat bebas yang menjalankan ujian tersebut.
Walaupun CEO Hugging Face, Clement Delangue, menyatakan tiada rancangan untuk mengambil tindakan undang-undang, beliau menyuarakan kebimbangan mengenai penyebaran serangan siber oleh ejen AI yang mana penciptanya tidak bertanggungjawab terhadap tindakan mereka.
Siapa yang boleh menyaman dan atas dasar apa?
Pakar undang-undang berpendapat bahawa walaupun fenomena ejen AI 'liar' ini baharu, prinsip undang-undang sedia ada boleh diguna pakai. Pihak yang berpotensi mengambil tindakan undang-undang (plaintif) termasuk syarikat yang sistemnya diceroboh, pekerja atau pelanggan mereka yang datanya terdedah, serta pemegang saham jika nilai syarikat jatuh akibat insiden tersebut.
Kebanyakan tuntutan sivil terhadap syarikat AI berkemungkinan besar akan bergantung pada tuntutan kecuaian. Plaintif perlu membuktikan bahawa makmal AI yang mencipta, menguji, atau menggunakan ejen autonomi tersebut telah gagal mengambil langkah berjaga-jaga yang munasabah untuk mencegah kemudaratan yang boleh dijangka. Jika insiden penggodaman oleh AI autonomi menjadi lebih kerap, hujah bahawa pencerobohan sedemikian boleh dijangka akan menjadi lebih kukuh.
AdSiapa yang boleh dipertanggungjawabkan?
Sasaran paling jelas bagi tindakan undang-undang di Amerika Syarikat ialah syarikat yang mencipta ejen AI tersebut. Walau bagaimanapun, pakar menyatakan bahawa plaintif juga boleh menyaman syarikat yang menggunakan ejen tersebut atau syarikat yang sistemnya diceroboh kerana kelemahan keselamatan.
Satu insiden boleh melibatkan beberapa defendan, yang kemudiannya boleh membuat tuntutan balas antara satu sama lain. Situasi ini diibaratkan seperti seorang pemilik rumah yang menyaman kedai runcit kerana menjual produk rosak, dan kedai runcit itu kemudiannya mengambil tindakan undang-undang terhadap pengeluar produk tersebut.
Potensi hujah pembelaan
Syarikat teknologi berkemungkinan akan berhujah bahawa pencerobohan itu tidak disengajakan dan mereka telah mengambil langkah-langkah yang munasabah untuk mengelakkannya. Defendan boleh mencabar tuntutan kecuaian dengan menegaskan bahawa tindakan ejen AI itu tidak dapat dijangka secara munasabah.
Walaupun undang-undang baharu di California, Assembly Bill 316, melarang defendan daripada meletakkan kesalahan sepenuhnya kepada teknologi AI itu sendiri, ia masih membenarkan hujah pembelaan lain. Ini termasuk hujah bahawa kelakuan syarikat tidak membawa kepada kecederaan atau pihak lain turut berkongsi tanggungjawab.