Các nhà nghiên cứu của OpenAI và Google DeepMind cảnh báo về những rủi ro chưa được kiểm soát trong trí tuệ nhân tạo tự cải tiến.

Các nhà nghiên cứu hiện tại và trước đây từ các phòng thí nghiệm trí tuệ nhân tạo hàng đầu, bao gồm OpenAI và Google DeepMind, đang bày tỏ lo ngại rằng các công ty của họ đang phát triển các hệ thống AI tự cải tiến quá nhanh và không có đủ biện pháp bảo vệ chống lại các hậu quả thảm khốc tiềm tàng. Trong các lời chứng thực được chia sẻ độc quyền với Reuters, những người trong ngành này lập luận rằng cuộc đua giành ưu thế công nghệ đang làm lu mờ công tác an toàn nghiêm túc.

Người trong ngành nêu ra rủi ro hiện sinh

Trong một loạt các cuộc phỏng vấn video do tổ chức phi lợi nhuận về an toàn AI Palisade Research thu thập, các nhân viên cho biết mối lo ngại của họ về rủi ro hiện sinh là có thật và không phải là một chiến thuật tiếp thị. Họ mô tả một văn hóa doanh nghiệp ưu tiên và khen thưởng sự phát triển nhanh chóng của các mô hình mới hơn là nghiên cứu thận trọng, hướng đến an toàn.

• Neel Nanda, một nhà khoa học nghiên cứu tại Google DeepMind, ước tính có ít nhất 10% khả năng AI tiên tiến có thể dẫn đến sự tuyệt chủng của loài người, một con số mà ông mô tả là "cao đến mức nực cười".
• Juan Felipe Ceron Uribe, một kỹ sư nghiên cứu về định hướng AI tại OpenAI, cho biết rằng "các phòng thí nghiệm tiên phong đang chạy đua với nhau, kiểu như bị bịt mắt".

Những cảnh báo này xuất hiện sau một sự cố được báo cáo vào tháng 7, trong đó các tác nhân của OpenAI đã xâm nhập vào môi trường thử nghiệm của họ, làm gia tăng sự giám sát của công chúng và các cơ quan quản lý đối với các giao thức an toàn của ngành.

Thúc đẩy Tự cải tiến

Ad

Mối quan tâm chính của các nhà nghiên cứu này là sự phát triển của AI với khả năng tự cải tiến đệ quy — khả năng cho các mô hình học hỏi và nâng cao chức năng của chính chúng với sự can thiệp tối thiểu hoặc không cần sự can thiệp của con người. Các nhà phê bình cho rằng xã hội chưa sẵn sàng cho công nghệ như vậy, một vấn đề càng trở nên trầm trọng hơn bởi những gì họ mô tả là cấu trúc tổ chức ngày càng bị phân mảnh trong các phòng thí nghiệm AI lớn.

Rosie Campbell, một cựu nhà nghiên cứu chính sách tại OpenAI, nói với Reuters rằng trước khi bà rời đi vào năm 2024, bà nhận thấy ngày càng khó khăn hơn trong việc tác động đến hướng đi của công nghệ trong công ty. Tình trạng này vẫn tồn tại ngay cả khi sự nhiệt tình của các nhà đầu tư đối với những tiến bộ về AI tiếp tục thúc đẩy một thị trường cạnh tranh khốc liệt.

Ngành công nghiệp thừa nhận rủi ro trong bối cảnh cạnh tranh

Công khai, các nhà lãnh đạo ngành đã thừa nhận những nguy hiểm tiềm tàng. CEO của Anthropic, Dario Amodei, gần đây đã kêu gọi ngành công nghiệp này nên chậm lại, một quan điểm được CEO của OpenAI, Sam Altman, lặp lại. Để thể hiện sự minh bạch ngày càng tăng, Anthropic được cho là có kế hoạch cảnh báo các nhà đầu tư tiềm năng trong đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) rằng trí tuệ nhân tạo tiên tiến có thể gây ra "những rủi ro thảm khốc hoặc đe dọa đến sự tồn tại của nhân loại".

Bất chấp những lời kêu gọi thận trọng này, cả OpenAI và Anthropic đều đã ra mắt các mô hình mới trong tháng này. Geoffrey Irving, một cựu nhà nghiên cứu tại cả hai phòng thí nghiệm, nói với Reuters rằng ý tưởng về việc chậm lại của các công ty đơn giản chỉ là "đừng tăng tốc quá nhiều". Ông nói thêm rằng các phòng thí nghiệm có thể đơn phương lựa chọn giảm tốc độ phát triển nhưng đang bị cuốn vào một cuộc đua cạnh tranh, với một số nhà lãnh đạo tin rằng nếu họ dừng lại, một đối thủ ít chú trọng đến an toàn hơn sẽ vượt lên dẫn đầu.