Anthropic Memberi Amaran tentang Risiko Undang-undang 'Tidak Dapat Diramalkan' daripada AI Autonomi dalam Pemfailan IPO

Syarikat AI Anthropic telah mengenal pasti potensi liabiliti undang-undang daripada teknologi AI autonominya sebagai faktor risiko yang ketara, memberi amaran dalam prospektus tawaran awam permulaannya bahawa ia boleh menghadapi tuntutan undang-undang yang tidak dapat diramalkan daripada tindakan ejen AI penyangak, menurut dokumen yang dilihat oleh Reuters.

Liabiliti Belum Selesai untuk 'AI Agentik'

Anthropic sedang membangunkan teknologi AI agentik, yang direka bentuk untuk beroperasi secara autonomi untuk tempoh yang lama dengan akses mendalam kepada sistem pelanggan. Dalam pemfailannya, syarikat itu mengakui bahawa keupayaan ini mewujudkan potensi tinggi untuk akibat dunia sebenar jika AI menunjukkan ralat atau dieksploitasi.

Syarikat itu secara khusus memetik risiko tindakan tidak dapat dipulihkan, seperti transaksi kewangan yang tidak dibenarkan atau pemadaman data. Menurut prospektus, had kontraktual Anthropic ke atas liabilitinya mungkin tidak "boleh dikuatkuasakan atau mencukupi" terhadap tuntutan yang timbul daripada ejen autonominya, mewujudkan ketidakpastian kewangan dan undang-undang yang ketara bagi firma itu ketika ia bersedia untuk menjadi awam.

Soalan Kawal Selia yang Lebih Luas

Pendedahan itu mengetengahkan perdebatan kritikal yang tidak dapat diselesaikan dalam sektor teknologi dan undang-undang: siapa yang bertanggungjawab atas bahaya yang disebabkan oleh sistem AI autonomi? Anthropic menyatakan dalam pemfailannya bahawa persoalan undang-undang utama masih belum terjawab, termasuk:

Ad

• Sama ada tindakan yang diambil oleh ejen AI akan dianggap secara sah produk, perkhidmatan atau kategori lain.
• Dalam keadaan apa tindakan ejen AI boleh mengikat pengguna yang menggunakannya secara sah.

Ketidakpastian ini disuarakan oleh Pengerusi Suruhanjaya Perdagangan Persekutuan A.S., Andrew Ferguson, yang baru-baru ini mencadangkan bahawa liabiliti untuk bahaya yang disebabkan oleh alat AI mungkin akan jatuh ke atas pembangun atau penggunanya, bukannya ke atas AI itu sendiri. Layanan undang-undang AI adalah berbeza daripada imuniti yang diberikan secara sejarah kepada platform dalam talian untuk kandungan yang dijana pengguna, perisai yang baru-baru ini mula menghadapi cabaran undang-undang.

Pendedahan tentang Penggunaan Model Berbahaya

Selain ejen autonomi, Anthropic juga mendedahkan bahawa model AInya telah digunakan "dengan cara yang boleh menyebabkan kecederaan diri, tindakan keganasan terhadap orang lain atau hasil buruk yang lain," walaupun terdapat perlindungan sedia ada. Ini mencerminkan cabaran undang-undang yang dihadapi oleh pesaing OpenAI, yang mempertahankan beberapa tuntutan mahkamah yang mengaitkan ChatGPTnya dengan bahaya kesihatan mental dan bunuh diri.

Mahkamah baru-baru ini telah menunjukkan kesediaan untuk meminta syarikat teknologi bertanggungjawab atas reka bentuk platform mereka, seperti yang dilihat dalam perbicaraan penting di mana Meta Platforms dan Google didapati bertanggungjawab atas kecuaian dalam reka bentuk produk media sosial mereka. Dahuluan undang-undang ini boleh menandakan persekitaran yang mencabar bagi pembangun AI jika model mereka dikaitkan dengan hasil pengguna yang buruk.