Giám đốc Khoa học OpenAI Cảnh báo AI Sắp 'Tự Tiến hóa', Kêu gọi Ngành Công nghệ Giảm tốc

Nhà khoa học trưởng của OpenAI, Jakub Pachocki, đã đưa ra một cảnh báo nghiêm khắc rằng trí tuệ nhân tạo (AI) đang phát triển với tốc độ chóng mặt, có khả năng vượt qua sự hiểu biết và kiểm soát của con người. Ông dự đoán rằng các phòng thí nghiệm AI sẽ phải tự nguyện giảm tốc độ phát triển vì những lo ngại về an toàn.

Cảnh báo về 'tự cải tiến đệ quy'

Trong một bài viết dài được công bố gần đây, ông Pachocki chỉ ra rằng trong một thời gian tương đối ngắn, các mô hình AI đã có thể điều khiển máy tính, hợp tác với con người và các hệ thống AI khác, cũng như thực hiện các dự án nghiên cứu. Ông cho rằng AI sẽ sớm có khả năng tự phát triển mà không cần sự can thiệp của con người, một quá trình được gọi là "tự cải tiến đệ quy".

Quá trình này được coi là con đường then chốt để đạt được Trí tuệ Nhân tạo Tổng quát (AGI) và đặc tính tự tăng tốc của nó có thể gây ra một "vụ nổ trí tuệ". "Đây là thời điểm đòi hỏi sự thận trọng tối đa," ông Pachocki viết. "Tôi lo rằng không ai thực sự sẵn sàng đối phó với hậu quả của việc trí thông minh máy móc tiếp tục tăng trưởng nhanh chóng."

Ông đề xuất các nhà phát triển phải hướng AI phù hợp hơn với lợi ích của con người, hoặc "giảm tốc độ phát triển trong tương lai nếu cần thiết." Ông bày tỏ hy vọng rằng việc tự nguyện giảm tốc sẽ trở thành tiêu chuẩn của ngành trước khi các tiêu chuẩn an toàn chung được thiết lập.

Mâu thuẫn trong ngành: Lo ngại an toàn và cuộc đua tốc độ

Bất chấp những cảnh báo, ngành công nghệ đang chứng kiến một cuộc đua gay gắt để ra mắt các mô hình ngày càng mạnh mẽ hơn. Tuyên bố của ông Pachocki tương đồng với quan điểm của nhiều giám đốc điều hành công nghệ khác, nhưng cũng cho thấy sự giằng co giữa lo ngại về an toàn và tham vọng mở rộng.

Ad

• Anthropic, một đối thủ của OpenAI, vào tháng 6 đã công bố một bài viết chi tiết về việc mô hình Claude của họ tham gia sâu vào các khâu nghiên cứu và phát triển AI, khiến con đường tự cải tiến đệ quy trở nên rõ ràng hơn. Công ty này cũng kêu gọi xã hội xem xét việc giảm tốc hoặc tạm dừng phát triển AI tiên tiến.
• CEO SoftBank, Masayoshi Son, đã điều chỉnh dự báo của mình, cho rằng siêu trí tuệ có thể xuất hiện trong vòng hai năm sau khi biết rằng "mô hình đang thiết kế mô hình tương lai" tại OpenAI.
• Nghiên cứu của chính OpenAI vào tháng 6 cũng chỉ ra "những dấu hiệu ban đầu" của sự tự cải tiến đệ quy trong các hệ thống hiện tại và cảnh báo rằng xã hội và chính phủ chưa sẵn sàng.

Dòng vốn đầu tư vẫn đổ vào AI tự cải tiến

Trong khi các nhà lãnh đạo kêu gọi sự thận trọng, các nhà đầu tư lại đang đặt cược lớn vào tương lai của AI tự cải tiến. Nhiều công ty khởi nghiệp tập trung vào lĩnh vực này đang thu hút được nguồn vốn đáng kể.

Ví dụ, công ty Inherent, được thành lập bởi các cựu nhà nghiên cứu của DeepMind, đã huy động được 50 triệu USD vào đầu năm nay. Phòng thí nghiệm AI Recursive Superintelligence của nhà khoa học nổi tiếng Richard Socher cũng đã nhận được khoản tài trợ 650 triệu USD.

Sự mâu thuẫn này còn được thể hiện qua chính mục tiêu của OpenAI, công ty của ông Pachocki, khi họ đã tuyên bố rõ ràng tham vọng tạo ra một "nhà nghiên cứu AI tự động thực sự" trong vòng hai năm tới. Điều này cho thấy cuộc tranh luận giữa việc "hãm phanh" và "tăng tốc" trong ngành AI sẽ còn tiếp tục diễn ra gay gắt trong thời gian tới.