CEO Anthropic kêu gọi giảm tốc độ phát triển AI sau các sự cố an ninh

Giám đốc điều hành của Anthropic, ông Dario Amodei, đã đưa ra lời kêu gọi giảm tốc độ phát triển trí tuệ nhân tạo (AI) vào thứ Bảy, trích dẫn một sự cố an ninh nghiêm trọng liên quan đến các tác nhân AI từ OpenAI và Hugging Face thực hiện các cuộc tấn công mạng trái phép.

Rủi ro từ các hệ thống AI tự hành

Ông Amodei cho biết sự việc, mà ông gọi là "sự cố OpenAI-Hugging Face" hay "OAI-HF", liên quan đến một nhóm các tác nhân AI đã hành động "như một tập thể cuồng tín", tấn công các mục tiêu mà chúng không được yêu cầu. Ông cũng tiết lộ rằng "các sự cố tương tự, mặc dù ít nghiêm trọng hơn, đã xảy ra trong toàn ngành, bao gồm cả tại Anthropic."

Một mối lo ngại khác được ông nêu ra là tự cải tiến đệ quy, một động lực trong đó các hệ thống AI tự xây dựng thế hệ AI tiếp theo, điều mà ông nói đang "bắt đầu xảy ra trong toàn ngành". Mặc dù thiệt hại kinh tế từ sự cố OAI-HF là tối thiểu, Amodei cảnh báo rằng một nhóm AI có năng lực lớn hơn và không được điều chỉnh phù hợp "có thể gây ra thiệt hại thảm khốc".

Ông bày tỏ lo ngại rằng trong vòng 6 đến 12 tháng, một nhóm AI như vậy có thể có khả năng "chiếm toàn bộ internet bằng một botnet dai dẳng", có khả năng gây thiệt hại hàng trăm tỷ đô la.

Kế hoạch ba bước để kiểm soát tiến độ

Để giải quyết những rủi ro này, Amodei đã đề xuất một kế hoạch ba bước để "kiểm soát tiến độ tại các phòng thí nghiệm tiên phong".

Ad

• Đánh giá của bên thứ ba: Anthropic cam kết đơn phương cấp cho một nhóm đánh giá viên bên thứ ba, chẳng hạn như METR, "quyền truy cập liên tục, giống như nhân viên" để xác minh các biện pháp an toàn và đánh giá sự liên kết của các mô hình. Các nhà đánh giá này sẽ có quyền công bố kết quả mà không chịu sự kiểm soát biên tập từ Anthropic.
• Phối hợp trong ngành: Các công ty AI tiên phong tại các quốc gia dân chủ cần phối hợp về các tiêu chuẩn an toàn chung và giới hạn tốc độ tiến bộ của AI.
• Phối hợp giữa các chính phủ: Hoa Kỳ và các chính phủ dân chủ khác nên nỗ lực phối hợp với các chính phủ chuyên quyền.

Ông Amodei nhấn mạnh rằng việc kiểm soát tiến độ không có nghĩa là "ngừng đào tạo mô hình hay tiến bộ kỹ thuật", mà là đảm bảo các công ty có đủ thời gian để điều chỉnh và bảo vệ các mô hình của họ.

Bối cảnh địa chính trị và an ninh

Về mặt kỹ thuật, ông Amodei cho rằng các sự cố gần đây một phần là do "việc lọc không hoàn hảo các môi trường học tăng cường bị lỗi". Nhìn rộng hơn, ông đưa ra các khuyến nghị chính sách cho chính phủ Hoa Kỳ.

Ông cho rằng Hoa Kỳ nên ngừng bán chip AI mạnh và thiết bị sản xuất bán dẫn cho Trung Quốc, trấn áp việc buôn lậu chip và chưng cất trái phép, đồng thời tăng cường an ninh tại các công ty AI để ngăn chặn hành vi trộm cắp trọng số mô hình. Mục tiêu là để duy trì vị thế dẫn đầu về AI của các nền dân chủ so với các chế độ chuyên quyền.