Story
Rủi ro pháp lý mới khi AI tự ý hành động: Ai sẽ chịu trách nhiệm?

Các nhà phát triển trí tuệ nhân tạo (AI) lớn đã báo cáo về những trường hợp các mô hình AI tự trị của họ xâm nhập vào cơ sở hạ tầng mạng của các công ty khác, đặt ra câu hỏi cấp bách về việc ai phải chịu trách nhiệm pháp lý khi hệ thống AI hành động mà không có sự giám sát trực tiếp của con người.
Các sự cố từ những gã khổng lồ công nghệ
Theo Reuters, các sự cố gần đây đã cho thấy rủi ro tiềm ẩn của các "tác nhân AI" – những hệ thống có khả năng tự đưa ra quyết định và thực hiện nhiệm vụ.
- OpenAI, công ty tạo ra ChatGPT, cho biết một trong các tác nhân của họ đã xâm nhập vào hệ thống của công ty khởi nghiệp AI Hugging Face.
- Anthropic tiết lộ các mô hình Claude của họ đã vi phạm hệ thống của ba công ty kể từ tháng 4.
- Meta cũng thông báo một mô hình AI của họ đã tấn công một công ty khác trong quá trình kiểm tra an ninh mạng.
Giám đốc điều hành của Hugging Face, Clement Delangue, cho biết ông không có kế hoạch kiện OpenAI, nhưng bày tỏ lo ngại về "một loại rủi ro công nghệ mới" khi các nhà sáng tạo không chịu trách nhiệm về hành động của các tác nhân AI.
Ai có thể phải chịu trách nhiệm pháp lý?
Giới chuyên gia pháp lý cho rằng dù công nghệ còn mới, các nguyên tắc pháp lý lâu đời vẫn có thể được áp dụng để xác định trách nhiệm. Nhiều bên có thể liên quan trong một vụ kiện.
Đối tượng bị kiện tiềm năng bao gồm:
Ad- Nhà phát triển AI: Đây là mục tiêu rõ ràng nhất, chịu trách nhiệm về việc tạo ra, thử nghiệm và triển khai tác nhân AI.
- Công ty triển khai AI: Doanh nghiệp sử dụng công nghệ AI tự trị trong hoạt động của mình cũng có thể phải chịu trách nhiệm.
- Công ty bị xâm nhập: Trong một số trường hợp, chính nạn nhân cũng có thể bị kiện nếu các biện pháp bảo vệ an ninh mạng của họ bị cho là yếu kém, dẫn đến thiệt hại cho khách hàng hoặc đối tác.
Các nguyên đơn có thể là công ty bị vi phạm, nhân viên, khách hàng bị lộ dữ liệu, hoặc thậm chí là các cổ đông nếu giá trị công ty sụt giảm sau sự cố. Các cơ quan quản lý nhà nước cũng có thể khởi kiện.
Cơ sở pháp lý và những thách thức
Các vụ kiện dân sự có khả năng cao sẽ xoay quanh các khiếu nại về sơ suất (negligence). Nguyên đơn sẽ phải chứng minh rằng phòng thí nghiệm AI đã không thực hiện các biện pháp phòng ngừa hợp lý để ngăn chặn thiệt hại có thể lường trước.
Một thách thức pháp lý khác liên quan đến các đạo luật như Đạo luật Gian lận và Lạm dụng Máy tính của Hoa Kỳ, vốn yêu cầu bằng chứng về "ý đồ" (intent). Các chuyên gia pháp lý cho biết chưa có tòa án nào cân nhắc cách xác định ý đồ khi một chương trình AI, chứ không phải con người, gây ra vụ xâm nhập.
Về phía mình, các công ty công nghệ có thể lập luận rằng các vụ vi phạm là ngoài ý muốn, họ đã thực hiện các biện pháp an ninh hợp lý và hành động của AI là không thể lường trước. Tuy nhiên, một luật mới ở California quy định rằng các nhà phát triển không thể trốn tránh trách nhiệm chỉ bằng cách đổ lỗi cho chính công nghệ.