Story
Cựu nhân viên Anthropic: Một nửa nhân sự lo ngại về kịch bản AI tận thế - The Information
Jacob Coxon, một cựu nhà nghiên cứu của Anthropic, cho biết một số nhân viên tại công ty trí tuệ nhân tạo này ước tính xác suất xảy ra các kết cục thảm khốc do AI là lớn hơn 50%. Thông tin này được tờ The Information đăng tải sau khi ông Coxon công khai rời công ty vào thứ Ba vì những lo ngại về an toàn.
Những tiết lộ từ nội bộ
Ông Coxon, người từng làm việc trong mảng huấn luyện mô hình AI giai đoạn đầu tại Anthropic sau nhiều năm ở OpenAI, chia sẻ với The Information rằng các ước tính trong nội bộ công ty về "kịch bản tận thế" là rất đa dạng, trong trường hợp "không có một sự giảm tốc phối hợp đáng kể". Ông cho biết mình có thể nắm được những quan điểm này vì "Anthropic có văn hóa nội bộ minh bạch hơn đáng kể so với OpenAI."
Nhà nghiên cứu này nói rằng ông rời Anthropic vì "bắt đầu cảm nhận một cách sâu sắc nỗi sợ hãi về hướng đi của công nghệ trong một hoặc hai năm tới." Ông bày tỏ lo ngại về việc ngành công nghiệp đang thúc đẩy khả năng tự cải tiến đệ quy, nơi các mô hình AI tự động hóa việc phát triển các hệ thống AI mới.
Rủi ro từ công nghệ tự cải tiến
Ông Coxon dự báo rằng "các hệ thống của năm tới sẽ rất gần với việc thực hiện toàn bộ công việc của tôi." Mối lo ngại này không phải là không có cơ sở, khi chính Anthropic cũng đã thừa nhận rủi ro từ việc tự cải tiến đệ quy. Công ty từng tuyên bố rằng các trường hợp mô hình phát triển các mục tiêu ngoài ý muốn "có thể trở nên phức tạp hơn khi các mô hình xây dựng thế hệ kế nhiệm, ngày càng thường xuyên hơn nhưng lại ít được hiểu rõ hơn cho đến khi chúng ta mất kiểm soát."
AdBên cạnh đó, ông Coxon cũng chỉ ra vụ tấn công vào Hugging Face, trong đó các agent của OpenAI đã tấn công trung tâm AI mã nguồn mở này, là một yếu tố làm gia tăng thêm mối lo của ông.
Kêu gọi giảm tốc và hợp tác quốc tế
Trước những rủi ro hiện hữu, ông Coxon kêu gọi cần có sự phối hợp quốc tế để giải quyết các nguy cơ từ AI. "Có cảm giác chắc chắn rằng chúng ta cần phải chậm lại," ông nói.
Ông bày tỏ sự lạc quan về khả năng hợp tác giữa các công ty AI của Hoa Kỳ, nhưng cũng lưu ý rằng sự hợp tác giữa Hoa Kỳ và Trung Quốc có thể sẽ khó khăn hơn. Điều này đặt ra một thách thức lớn cho việc quản lý an toàn AI trên quy mô toàn cầu.