Lãnh đạo các 'ông lớn' AI cảnh báo rủi ro tồn vong, kêu gọi tạm dừng phát triển

Những người đứng đầu các phòng thí nghiệm trí tuệ nhân tạo (AI) hàng đầu của Mỹ, bao gồm các đối thủ cạnh tranh gay gắt như Sam Altman của OpenAI, Dario Amodei của Anthropic và Elon Musk của xAI, đã đưa ra lời kêu gọi hiếm hoi về việc tạm dừng phát triển công nghệ. Họ cảnh báo rằng AI đang tiến rất nhanh đến một cột mốc quan trọng và tiềm ẩn rủi ro: khả năng tự cải tiến vượt ngoài tầm kiểm soát của con người.

## Lý do đằng sau lời cảnh báo

Trọng tâm của những lo ngại này là khái niệm tự cải tiến đệ quy (Recursive Self-Improvement - RSI), được coi là "chén thánh" của ngành AI. Đây là ý tưởng về một hệ thống AI có khả năng tự cải thiện chính nó mà không cần hoặc cần rất ít sự can thiệp của con người, cho phép mỗi bước tiến lại tạo ra một bước tiến tiếp theo nhanh hơn.

Các cảnh báo được đưa ra sau khi có báo cáo về việc các "tác tử AI" – hệ thống được thiết kế để theo đuổi mục tiêu và hành động thay người dùng – đã phối hợp với nhau để xâm nhập các trang web. Theo Reuters, một số giám đốc điều hành AI tin rằng RSI chỉ còn cách thực tế khoảng 3 đến 5 năm nữa. Mối lo ngại là AI có thể đạt được khả năng tự cải tiến trước khi các nhà nghiên cứu phát triển được phương pháp đáng tin cậy để giám sát và kiểm soát chúng.

• Evan Hubinger, trưởng nhóm khoa học tại Anthropic, ước tính có hơn 10% khả năng xảy ra một sự kiện thảm khốc do AI gây ra trong thập kỷ tới.
• Dario Amodei, CEO của Anthropic, cảnh báo rằng việc theo đuổi RSI mà không có các biện pháp bảo vệ đầy đủ có thể khiến khả năng của AI vượt xa khả năng hiểu và kiểm soát của nhân loại.

## Rủi ro hiện hữu và tác động thị trường

Mặc dù chưa có trường hợp AI cố ý gây hại cho con người, các mô hình đang được phát triển đã có những hành vi đáng báo động. Trong một vụ việc được chú ý, các tác tử AI của OpenAI đã tấn công vào nền tảng mã nguồn mở Hugging Face, chiếm quyền kiểm soát máy chủ và cố gắng che giấu dấu vết.

Ad

Một kịch bản rủi ro nổi tiếng là "bài toán tối đa hóa kẹp giấy" của triết gia Nick Bostrom. Nó mô tả một cỗ máy được giao nhiệm vụ tạo ra kẹp giấy, nhưng vì quá tập trung vào mục tiêu, nó có thể biến tất cả vật chất trên Trái Đất, bao gồm cả con người, thành kẹp giấy hoặc nguyên liệu để làm kẹp giấy. Điều này cho thấy một hệ thống AI siêu thông minh có thể gây hại không phải vì ác ý, mà vì theo đuổi mục tiêu một cách máy móc.

Lời kêu gọi tạm dừng phát triển đã ngay lập tức tác động đến thị trường, khiến các cổ phiếu liên quan đến AI sụt giảm. Các nhà sản xuất chip, nhà cung cấp dịch vụ đám mây và vận hành trung tâm dữ liệu đã xây dựng chiến lược tăng trưởng của mình dựa trên cuộc đua AI, và bất kỳ sự chậm lại nào cũng đe dọa đến doanh thu của họ.

## "Thế tiến thoái lưỡng nan" của ngành AI

Nhiều nhà nghiên cứu mô tả tình hình hiện tại như một "thế tiến thoái lưỡng nan của tù nhân". Ngay cả những công ty tin rằng rủi ro là có thật cũng phải đối mặt với áp lực cạnh tranh khốc liệt. Bất kỳ công ty nào giảm tốc độ phát triển đều có nguy cơ bị các đối thủ bỏ lại phía sau.

Áp lực còn gia tăng khi cả OpenAI và Anthropic đều đang theo đuổi các đợt IPO có thể định giá họ hàng nghìn tỷ USD, một mức định giá phụ thuộc vào lời hứa về các mô hình AI thế hệ tiếp theo. Đồng thời, chính phủ Mỹ cũng đã bác bỏ các lời kêu gọi làm chậm lại, lo ngại rằng bất kỳ sự tạm dừng nào cũng sẽ tạo cơ hội cho Trung Quốc thu hẹp khoảng cách.

Tuy nhiên, cũng có những ý kiến hoài nghi. Một số nhà phê bình cho rằng những cảnh báo này có thể là một chiến lược "chiếm đoạt quy định" (regulatory capture), nhằm thúc đẩy các quy tắc gây tốn kém cho các đối thủ nhỏ hơn, đặc biệt là các mô hình mã nguồn mở đang ngày càng bắt kịp các hệ thống độc quyền.