Nhà đồng sáng lập DeepMind cảnh báo về an toàn AI, giữ nguyên dự báo có AGI vào năm 2028

Nhà đồng sáng lập Google DeepMind, ông Shane Legg, đã đưa ra lời cảnh báo rằng năng lực của trí tuệ nhân tạo (AI) đang phát triển nhanh chóng không được phép vượt qua các biện pháp kiểm soát an toàn. Theo tường thuật của Financial Times, ông đã đưa ra phát biểu này cùng với việc ra mắt một viện nghiên cứu mới nhằm khám phá việc triển khai trí tuệ nhân tạo tổng quát (AGI).

Cuộc đua phát triển và rủi ro an toàn

Cảnh báo từ các công ty AI hàng đầu được đưa ra trong bối cảnh các nhà nghiên cứu báo cáo rằng các tác nhân AI ngày càng có khả năng tự viết phần mềm, thực hiện các tác vụ tự động và hỗ trợ phát triển các hệ thống AI mới. Điều này làm dấy lên lo ngại rằng công nghệ có thể tiến bộ nhanh hơn các biện pháp bảo vệ để giám sát và kiểm soát nó.

Theo báo cáo, ông Legg cho rằng lời kêu gọi của CEO Anthropic, Dario Amodei, về việc làm chậm lại nhưng không tạm dừng việc phát hành các mô hình AI tiên phong là một "hướng đi thú vị" và "đáng để xem xét".

Viện DeepMind và tương lai của AGI

Để thúc đẩy các cuộc thảo luận về vấn đề này, Viện DeepMind (The DeepMind Institute) đã được thành lập với mục tiêu mở rộng các cuộc tranh luận công khai về Trí tuệ Nhân tạo Tổng quát (AGI). Google DeepMind định nghĩa AGI là một hệ thống có năng lực nhận thức tương đương với bộ não con người.

Financial Times cho biết viện sẽ bao quát các chủ đề đa dạng bao gồm:

Ad

• Khoa học và giáo dục
• Xã hội và chính sách
• Triết học và sự phát triển của con người

Các bài luận đầu tiên của viện tập trung vào các chủ đề an toàn AI, chính sách kinh tế và các nguyên tắc cho một "chủ nghĩa không tưởng mới".

Mốc thời gian dự báo cho AGI

Bất chấp những tuyên bố gần đây từ các giám đốc điều hành tại Nvidia và OpenAI, ông Legg cho rằng còn quá sớm để tuyên bố rằng AGI đã đạt được. Tuy nhiên, ông vẫn giữ vững quan điểm của mình về tương lai của công nghệ này.

Ông Legg cho biết ông vẫn "thoải mái" với dự báo trước đây của mình về khả năng 50% đạt được AGI ở mức "tối thiểu" vào năm 2028. Lời cảnh báo và dự báo từ một trong những người tiên phong trong ngành nhấn mạnh tầm quan trọng ngày càng tăng của việc cân bằng giữa đổi mới và quản lý rủi ro trong lĩnh vực AI.