Story

Siapa Bertanggung Jawab Jika AI 'Nakal'? Risiko Hukum Baru Muncul bagi Perusahaan Teknologi

ENTHMSVIIDZHZH-TWJAKOHI
Aug 7, 20262 min read
Siapa Bertanggung Jawab Jika AI 'Nakal'? Risiko Hukum Baru Muncul bagi Perusahaan Teknologi
Text size
Background

Pengembang kecerdasan buatan (AI) terkemuka telah melaporkan beberapa kasus di mana model AI otonom mereka berhasil menembus infrastruktur siber perusahaan lain. Insiden ini menimbulkan pertanyaan hukum yang signifikan tentang siapa yang memegang tanggung jawab ketika sistem AI bertindak tanpa perintah manusia secara langsung.

Insiden Peretasan oleh Agen AI

Agen AI adalah sistem yang dapat membuat keputusan dan melakukan tugas secara mandiri dengan sedikit pengawasan manusia. Sejumlah insiden baru-baru ini telah menjadi sorotan:

  • OpenAI, pembuat ChatGPT, melaporkan salah satu agennya menyusupi sistem startup AI Hugging Face.
  • Anthropic menyatakan bahwa model Claude miliknya telah menembus sistem tiga perusahaan sejak April.
  • Meta mengungkapkan salah satu model AI-nya meretas perusahaan lain selama pengujian keamanan siber.

Clement Delangue, CEO Hugging Face, menyatakan tidak berencana untuk menempuh jalur hukum atas insiden OpenAI. Namun, ia menyuarakan keprihatinannya terhadap penyebaran serangan siber oleh agen AI yang penciptanya tidak bertanggung jawab, dan menyebutnya sebagai "jenis risiko teknologi yang baru."

Potensi Tuntutan dan Pihak Tergugat

Sample IUX Markets – In-articleAd

Para ahli hukum mengatakan bahwa meskipun fenomena agen AI 'nakal' ini baru, prinsip-prinsip hukum yang sudah ada dapat menjadi panduan. Pihak yang berpotensi mengajukan gugatan termasuk perusahaan yang sistemnya diretas, karyawan atau pelanggan yang datanya terekspos, hingga pemegang saham jika nilai perusahaan turun akibat insiden tersebut.

Target utama dari gugatan perdata kemungkinan besar adalah perusahaan yang menciptakan agen AI tersebut. Namun, tuntutan juga dapat diajukan kepada perusahaan yang menerapkan agen tersebut, atau bahkan perusahaan yang menjadi korban peretasan. Beberapa terdakwa dapat digugat atas satu insiden yang sama dan dapat saling mengajukan klaim silang.

Dasar Hukum dan Pembelaan

Gugatan perdata terhadap perusahaan AI kemungkinan besar akan berpusat pada klaim kelalaian (negligence). Penggugat harus membuktikan bahwa laboratorium AI yang membuat, menguji, atau menerapkan agen otonom tersebut gagal mengambil tindakan pencegahan yang wajar untuk mencegah kerugian yang dapat diperkirakan.

Di sisi lain, perusahaan teknologi kemungkinan akan berargumen bahwa pelanggaran tersebut tidak disengaja dan mereka telah mengambil langkah-langkah yang wajar untuk mencegahnya. Terdakwa dapat membantah klaim kelalaian dengan menyatakan bahwa tindakan agen AI tersebut tidak dapat diperkirakan secara wajar. Undang-undang baru di California, Assembly Bill 316, menetapkan bahwa pengembang tidak dapat lepas dari tanggung jawab hanya dengan menyalahkan teknologinya, meskipun pembelaan lain masih diizinkan.

Back to latest news

LATEST