Anthropic Memperingatkan Risiko Hukum yang 'Tidak Terduga' dari AI Otonom dalam Pengajuan IPO

Perusahaan AI Anthropic telah mengidentifikasi potensi tanggung jawab hukum dari teknologi AI otonomnya sebagai faktor risiko yang signifikan, memperingatkan dalam prospektus penawaran umum perdananya bahwa mereka dapat menghadapi klaim hukum yang tidak terduga dari tindakan agen AI yang nakal, menurut dokumen yang dilihat oleh Reuters.

Tanggung Jawab yang Belum Terselesaikan untuk 'AI Agentik'

Anthropic sedang mengembangkan teknologi AI agentik, yang dirancang untuk beroperasi secara otonom dalam jangka waktu lama dengan akses mendalam ke sistem pelanggan. Dalam pengajuannya, perusahaan mengakui bahwa kemampuan ini menciptakan potensi tinggi untuk konsekuensi di dunia nyata jika AI menunjukkan kesalahan atau dieksploitasi.

Perusahaan secara khusus menyebutkan risiko tindakan yang tidak dapat dibatalkan, seperti transaksi keuangan yang tidak sah atau penghapusan data. Menurut prospektus, batasan kontraktual Anthropic atas tanggung jawabnya mungkin tidak "dapat ditegakkan atau memadai" terhadap klaim yang timbul dari agen otonomnya, menciptakan ketidakpastian keuangan dan hukum yang signifikan bagi perusahaan saat bersiap untuk go public.

Pertanyaan Regulasi yang Lebih Luas

Pengungkapan ini menyoroti perdebatan penting yang belum terselesaikan di sektor teknologi dan hukum: siapa yang bertanggung jawab atas kerugian yang disebabkan oleh sistem AI otonom? Anthropic mencatat dalam pengajuannya bahwa pertanyaan hukum utama masih belum terjawab, termasuk:

Ad

• Apakah tindakan yang dilakukan oleh agen AI akan secara hukum dianggap sebagai produk, layanan, atau kategori lain.
• Dalam keadaan apa tindakan agen AI dapat mengikat secara hukum pengguna yang menggunakannya.

Ketidakpastian ini digaungkan oleh Ketua Komisi Perdagangan Federal AS, Andrew Ferguson, yang baru-baru ini menyatakan bahwa tanggung jawab atas kerugian yang disebabkan oleh alat AI kemungkinan akan jatuh pada pengembang atau penggunanya, bukan pada AI itu sendiri. Perlakuan hukum terhadap AI berbeda dari kekebalan yang secara historis diberikan kepada platform daring untuk konten yang dihasilkan pengguna, sebuah perlindungan yang baru-baru ini mulai menghadapi tantangan hukum.

Pengungkapan Penggunaan Model yang Berbahaya

Selain agen otonom, Anthropic juga mengungkapkan bahwa model AI-nya telah digunakan "dengan cara yang dapat menyebabkan tindakan melukai diri sendiri, tindakan kekerasan terhadap orang lain, atau hasil buruk lainnya," meskipun ada pengamanan yang tersedia. Hal ini mencerminkan tantangan hukum yang dihadapi oleh pesaingnya, OpenAI, yang sedang membela diri dari beberapa tuntutan hukum yang menghubungkan ChatGPT-nya dengan kerusakan kesehatan mental dan bunuh diri.

Pengadilan baru-baru ini menunjukkan kesediaan untuk meminta pertanggungjawaban perusahaan teknologi atas desain platform mereka, seperti yang terlihat dalam persidangan penting di mana Meta Platforms dan Google dinyatakan bertanggung jawab atas kelalaian dalam desain produk media sosial mereka. Preseden hukum ini dapat menandakan lingkungan yang menantang bagi pengembang AI jika model mereka dikaitkan dengan hasil buruk bagi pengguna.