Anthropic cảnh báo về những rủi ro pháp lý 'khó lường' từ trí tuệ nhân tạo tự động trong hồ sơ IPO.

Công ty trí tuệ nhân tạo Anthropic đã xác định rủi ro pháp lý tiềm tàng từ công nghệ AI tự động của mình là một yếu tố rủi ro đáng kể, cảnh báo trong bản cáo bạch chào bán cổ phiếu lần đầu ra công chúng rằng họ có thể phải đối mặt với các khiếu nại pháp lý khó lường từ hành động của các tác nhân AI bất hảo, theo các tài liệu mà Reuters đã xem xét.

Trách nhiệm pháp lý chưa được giải quyết đối với 'AI tác nhân'

Anthropic đang phát triển công nghệ AI tác nhân, được thiết kế để hoạt động tự động trong thời gian dài với quyền truy cập sâu vào hệ thống của khách hàng. Trong hồ sơ của mình, công ty thừa nhận rằng những khả năng này tạo ra tiềm năng cao về hậu quả thực tế nếu AI mắc lỗi hoặc bị khai thác.

Công ty đặc biệt nêu ra rủi ro của các hành động không thể đảo ngược, chẳng hạn như các giao dịch tài chính trái phép hoặc xóa dữ liệu. Theo bản cáo bạch, các giới hạn trách nhiệm pháp lý theo hợp đồng của Anthropic có thể không "có thể thực thi hoặc đầy đủ" đối với các khiếu nại phát sinh từ các tác nhân tự động của họ, tạo ra sự không chắc chắn đáng kể về tài chính và pháp lý cho công ty khi chuẩn bị niêm yết cổ phiếu.

Các câu hỏi pháp lý rộng hơn

Thông tin được tiết lộ nêu bật một cuộc tranh luận quan trọng, chưa được giải quyết trong lĩnh vực công nghệ và pháp luật: ai chịu trách nhiệm về thiệt hại do hệ thống AI tự động gây ra? Anthropic lưu ý trong hồ sơ của mình rằng các câu hỏi pháp lý quan trọng vẫn chưa được trả lời, bao gồm:

Ad

• Liệu các hành động được thực hiện bởi các tác nhân AI sẽ được coi là sản phẩm, dịch vụ, hay một loại khác về mặt pháp lý.
• Trong những trường hợp nào hành động của tác nhân AI có thể ràng buộc người dùng đã triển khai nó về mặt pháp lý.

Sự không chắc chắn này đã được Chủ tịch Ủy ban Thương mại Liên bang Hoa Kỳ Andrew Ferguson nhắc lại, người gần đây đã gợi ý rằng trách nhiệm pháp lý đối với thiệt hại do công cụ AI gây ra có thể thuộc về các nhà phát triển hoặc người dùng của nó, chứ không phải chính AI. Việc xử lý pháp lý đối với AI khác biệt so với quyền miễn trừ được cấp cho các nền tảng trực tuyến đối với nội dung do người dùng tạo ra, một lá chắn gần đây đã bắt đầu phải đối mặt với những thách thức pháp lý.

Tiết lộ về việc sử dụng mô hình gây hại

Ngoài các tác nhân tự động, Anthropic cũng tiết lộ rằng các mô hình AI của họ đã được sử dụng "theo những cách có thể dẫn đến tự gây hại, hành vi bạo lực đối với người khác hoặc các hậu quả bất lợi khác", bất chấp các biện pháp bảo vệ hiện có. Điều này phản ánh những thách thức pháp lý mà đối thủ cạnh tranh OpenAI đang phải đối mặt, khi công ty này đang bào chữa cho một số vụ kiện liên quan đến ChatGPT của họ với các vấn đề sức khỏe tâm thần và tự tử.

Gần đây, các tòa án đã thể hiện sự sẵn sàng buộc các công ty công nghệ phải chịu trách nhiệm về thiết kế nền tảng của họ, như đã thấy trong một phiên tòa mang tính bước ngoặt, nơi Meta Platforms và Google bị kết luận có trách nhiệm về sự sơ suất trong thiết kế các sản phẩm mạng xã hội của họ. Tiền lệ pháp lý này có thể báo hiệu một môi trường đầy thách thức đối với các nhà phát triển AI nếu mô hình của họ có liên quan đến các kết quả bất lợi cho người dùng.