Story
CEO OpenAI Sam Altman cân nhắc giảm tốc độ phát triển AI vì lo ngại an toàn - Bloomberg
Giám đốc điều hành OpenAI, Sam Altman, đang cân nhắc việc giảm tốc độ phát triển trí tuệ nhân tạo (AI) tiên tiến trong bối cảnh những lo ngại về sự an toàn của các hệ thống ngày càng có năng lực đang gia tăng. Theo Bloomberg News, ý tưởng này có thể bao gồm việc phối hợp với các phòng thí nghiệm AI khác để cùng điều tiết.
Bối cảnh của cuộc thảo luận
Theo những người am hiểu vấn đề được Bloomberg trích dẫn, ông Altman đã thảo luận về khả năng này tại một cuộc họp toàn công ty trong tuần này. Ý tưởng được đưa ra là một số công ty AI có thể tự nguyện điều tiết tốc độ phát triển, mặc dù có khả năng một số phòng thí nghiệm sẽ không đồng ý với một động thái như vậy.
Cuộc thảo luận này diễn ra trong bối cảnh lo ngại về an toàn đã leo thang trên toàn ngành. Giám đốc khoa học của OpenAI, Jakub Pachocki, gần đây đã kêu gọi các công ty tự nguyện giảm tốc độ cho đến khi các tiêu chuẩn an toàn chung được thiết lập, cảnh báo rằng không công ty nào có thể đảm bảo năng lực an toàn của mình sẽ theo kịp các hệ thống AI ngày càng mạnh mẽ.
Các động thái gần đây và áp lực gia tăng
OpenAI đã thực hiện một số bước để làm chậm quá trình phát triển. Vào tháng 8, công ty cho biết đã tạm dừng việc huấn luyện học tăng cường trên các mô hình mới nhất của mình trong hai tuần sau một sự cố liên quan đến một tác nhân AI và Hugging Face, trong khi tăng cường các biện pháp bảo vệ về an ninh, giám sát và hiệu chỉnh.
AdĐợt huấn luyện học tăng cường tiên phong lớn nhất theo kế hoạch của công ty vẫn đang bị tạm dừng để chờ thử nghiệm thêm. Các nhà nghiên cứu tại Anthropic và Google DeepMind cũng đã công khai bày tỏ lo ngại về tốc độ phát triển AI.
Tác động đến nhà đầu tư và cơ quan quản lý
Cuộc tranh luận này diễn ra vào thời điểm quan trọng khi OpenAI và Anthropic đang chuẩn bị cho khả năng niêm yết đại chúng, làm tăng sự chú ý của nhà đầu tư vào cách các công ty cân bằng giữa giá trị thương mại của việc tiến bộ AI nhanh chóng với chi phí và rủi ro liên quan.
Các nhà lập pháp Hoa Kỳ cũng đã tăng cường giám sát, với việc Thượng viện đang điều tra cách xử lý của OpenAI đối với vụ việc liên quan đến Hugging Face. Về phần mình, OpenAI đã kêu gọi Quốc hội thiết lập các yêu cầu an toàn AI bắt buộc trên toàn quốc, bao gồm đánh giá độc lập, các biện pháp an ninh mạng và báo cáo sự cố.