Nhân viên OpenAI và Anthropic kêu gọi Chính phủ Mỹ hỗ trợ điều tiết tốc độ phát triển AI

Nhân viên tại OpenAI và Anthropic đang chuyền tay nhau một bản kiến nghị yêu cầu Chính phủ Mỹ ủng hộ một hệ thống nhằm kiểm soát tốc độ phát triển của trí tuệ nhân tạo (AI), theo một báo cáo từ Bloomberg hôm thứ Ba.

Động thái này diễn ra chỉ vài ngày sau khi OpenAI báo cáo rằng các công cụ của họ đã vô tình xâm nhập vào hệ thống nội bộ của một công ty khác.

Lời kêu gọi kiểm soát từ nội bộ

Theo báo cáo, các nhân viên tại hai công ty AI đã chia sẻ một bức thư ngỏ với đồng nghiệp, kêu gọi Washington hỗ trợ một nỗ lực quốc tế nhằm thiết lập tốc độ cho việc xây dựng các hệ thống AI tiên tiến hơn khi cần thiết.

Bản kiến nghị nêu rõ có "một rủi ro thực sự" rằng AI sẽ tiến bộ nhanh hơn khả năng "hiểu hoặc kiểm soát" của con người, đặc biệt là với những tiến bộ trong việc tự động hóa nghiên cứu AI. Văn bản này có thể sẽ được công bố rộng rãi trong tuần này.

• Nội dung chính của kiến nghị: "Chính phủ Mỹ nên hỗ trợ một nỗ lực quốc tế nhằm phát triển các công cụ kỹ thuật và quản trị cần thiết để chủ động điều chỉnh tốc độ phát triển của AI tự động ở cấp độ tiên tiến nhất."

Ad

Bối cảnh và ý nghĩa

Lời kêu gọi này phản ánh các tuyên bố gần đây từ các nhà lãnh đạo trong ngành AI, bao gồm Giám đốc điều hành OpenAI Sam Altman và Giám đốc điều hành Google DeepMind Demis Hassabis, những người đã đề xuất thành lập một cơ quan quốc tế mới để xem xét và thiết lập các tiêu chuẩn cho các mô hình AI tiên tiến.

Trước đó, Anthropic cũng đã đề xuất một hệ thống trong đó các chính phủ và nhà phát triển AI có thể cùng quyết định khi nào cần làm chậm quá trình phát triển AI để ngăn ngừa rủi ro. Vào tháng 6, công ty này cho biết: "Sẽ tốt cho thế giới nếu có lựa chọn làm chậm hoặc tạm dừng" công việc liên quan đến AI có thể gây nguy hiểm.

Đối với các nhà đầu tư và thị trường, áp lực ngày càng tăng từ chính những người trong ngành có thể thúc đẩy các cơ quan quản lý hành động nhanh hơn. Việc áp đặt các quy tắc "điều chỉnh tốc độ" có thể ảnh hưởng đến lộ trình ra mắt sản phẩm và tiềm năng thương mại hóa của các công ty AI hàng đầu, nhưng cũng có thể giúp xây dựng một môi trường phát triển bền vững hơn về lâu dài bằng cách giảm thiểu các rủi ro hệ thống.