Story
Thượng viện Mỹ xem xét buộc các công ty AI phải giảm thiểu rủi ro thảm khốc
Các nhà đàm phán tại Thượng viện Hoa Kỳ đang cân nhắc một dự luật mang tính lưỡng đảng nhằm áp đặt trách nhiệm pháp lý lên các công ty công nghệ trong việc thiết kế các sản phẩm trí tuệ nhân tạo (AI) an toàn. Theo hai trợ lý Thượng viện, đề xuất này sẽ tạo ra một khái niệm gọi là "trách nhiệm cẩn trọng" (duty of care) đối với các nhà phát triển AI.
Các điều khoản chính đang được thảo luận
Trọng tâm của dự luật là yêu cầu các công ty phải thiết kế sản phẩm của mình với mục tiêu ngăn chặn "các rủi ro thảm khốc". Một trợ lý Thượng viện đã nêu ví dụ về các rủi ro như khả năng một tác nhân xấu sử dụng hệ thống AI để thiết kế vũ khí hạt nhân hoặc sinh học.
Theo một nguồn tin thân cận và một trợ lý Thượng viện, các nhà đàm phán đang hướng tới việc trao cho chính phủ liên bang quyền chặn việc phát hành các mô hình AI bị cho là không an toàn. Tuy nhiên, các công ty sẽ có quyền thách thức quyết định này tại tòa án liên bang. Các chi tiết cụ thể về quyền hạn của chính phủ vẫn đang được thảo luận.
Một số điểm chính của dự luật bao gồm:
- Áp dụng cho các mô hình AI có năng lực tiên tiến nhất.
- Các công ty bị ảnh hưởng trực tiếp bao gồm Google của Alphabet, Anthropic và OpenAI.
- Một phần của biện pháp này cũng sẽ ngăn các tiểu bang thực thi luật riêng của họ về các rủi ro nhất định do AI gây ra.
Tác động đến thị trường và ngành công nghệ
AdViệc đưa ra quy định cấp liên bang này sẽ là một bước ngoặt quan trọng đối với ngành AI tại Mỹ. Nếu được thông qua, dự luật có thể làm tăng chi phí tuân thủ và trách nhiệm pháp lý cho các công ty đi đầu trong lĩnh vực AI. Các nhà đầu tư sẽ phải theo dõi chặt chẽ diễn biến này vì nó có thể ảnh hưởng đến tốc độ phát triển và triển khai các mô hình AI mới, tạo ra sự không chắc chắn về quy định trong ngắn hạn.
Động thái này diễn ra trong bối cảnh áp lực ngày càng tăng đối với Quốc hội và chính quyền Mỹ trong việc giải quyết các rủi ro từ hệ thống AI tiên tiến. Những lo ngại này càng gia tăng sau các báo cáo về việc AI đi chệch hướng so với chỉ dẫn của con người và các cảnh báo công khai từ chính các nhà nghiên cứu AI hàng đầu.
Bối cảnh và các bước tiếp theo
Cuộc thảo luận này được dẫn dắt bởi các Thượng nghị sĩ có ảnh hưởng, bao gồm Lãnh đạo Đa số Thượng viện John Thune, Chủ tịch Ủy ban Thương mại Thượng viện Ted Cruz và Thượng nghị sĩ Amy Klobuchar. Bà Klobuchar khẳng định trong một tuyên bố gửi cho Reuters rằng bà đang "tiếp tục làm việc hướng tới một thỏa thuận lưỡng đảng" và điều này bao gồm việc "yêu cầu các nhà phát triển làm việc với các chuyên gia của chính phủ để xác minh và kiểm tra các mô hình nhằm đảm bảo AI an toàn".
Tuy nhiên, việc thông qua dự luật có thể gặp khó khăn do lịch trình làm việc eo hẹp của Quốc hội trước cuộc bầu cử giữa kỳ vào ngày 3 tháng 11. Theo Reuters, Hạ viện chỉ có một tuần làm việc trong khi Thượng viện dự kiến sẽ làm việc trong ba tuần, khiến thời gian để đạt được thỏa thuận và bỏ phiếu trở nên rất hạn chế.