Story
Dữ liệu Anthropic: AI đang tăng tốc tự nghiên cứu, dấy lên lo ngại về rủi ro dài hạn
Công ty trí tuệ nhân tạo Anthropic vừa công bố các số liệu mới cho thấy mức độ tham gia ngày càng tăng của chính AI trong hoạt động nghiên cứu và phát triển (R&D) của công ty. Dữ liệu này cung cấp thêm thông tin cho một trong những câu hỏi trọng tâm trong cuộc tranh luận về rủi ro từ AI: liệu các hệ thống ngày càng có năng lực có thể tự đẩy nhanh tốc độ phát triển của chính chúng hay không.
AI ngày càng tự chủ trong nghiên cứu
Theo báo cáo của Anthropic, mô hình AI Claude của họ hiện "dẫn dắt" 26% khối lượng công việc R&D về AI của công ty, một sự gia tăng đáng kể so với mức dưới 1% vào tháng 2. Anthropic định nghĩa "dẫn dắt" là việc AI hoàn thành phần lớn một tác vụ từ đầu đến cuối chỉ từ một mệnh lệnh cấp cao, với sự giám sát của con người.
Đáng chú ý hơn, hơn 90% hoạt động R&D về AI tại Anthropic được thực hiện ở mức độ AI "hợp tác" với con người. Những con số này cho thấy AI không còn là công cụ thụ động mà đang trở thành một đối tác chủ động trong quá trình tạo ra các công nghệ AI tiên tiến hơn.
Kịch bản "tự cải tiến đệ quy"
Ý nghĩa của các số liệu này không chỉ nằm ở con số 26% mà còn ở vòng lặp phản hồi tiềm tàng mà nó tạo ra: AI thực hiện nghiên cứu AI, nghiên cứu đó tạo ra AI tốt hơn, và AI tốt hơn lại thực hiện nhiều nghiên cứu AI hơn. Đây là một thành phần cốt lõi của kịch bản tự cải tiến đệ quy (recursive self-improvement), vốn là nguồn cơn của những lo ngại về rủi ro dài hạn từ trí tuệ nhân tạo tiên tiến.
AdAnthropic cho biết trong tháng 8, họ có khoảng 30.000 tác nhân AI (AI agents) đồng thời thực hiện công việc nghiên cứu và kỹ thuật trên nền tảng nội bộ. Hơn 1 tỷ quyết định của tác nhân đã được phân tích trong tháng, với chỉ khoảng 0,002% bị chặn bởi hệ thống giám sát.
Con người vẫn giữ vai trò giám sát
Tuy nhiên, công ty nhấn mạnh rằng họ chưa đạt đến ngưỡng quan trọng nhất của kịch bản tự cải tiến đệ quy: R&D AI hoàn toàn tự động. Hiện tại, Claude chưa hoạt động một cách tự chủ trong bất kỳ phần nào của hoạt động R&D, có nghĩa là con người vẫn tham gia và giữ vai trò giám sát trong quy trình.
- Tốc độ thay đổi là rất đáng chú ý, khi tỷ lệ R&D do AI dẫn dắt tăng từ dưới 1% lên 26% chỉ trong sáu tháng.
- Anthropic cũng cho biết khoảng 12% năng lực tính toán (compute) dùng cho R&D AI do AI thực hiện đã được dành cho công việc an toàn trong một tuần của tháng 7, dù công ty lưu ý đây là một thước đo chưa hoàn hảo.
Dù các số liệu này chưa cho thấy kịch bản tự cải tiến đệ quy đã xảy ra, chúng cung cấp một phương pháp để theo dõi tốc độ mà AI đang dần đảm nhận công việc xây dựng các thế hệ AI tương lai — một xu hướng có thể ngày càng trở nên quan trọng khi vai trò của con người trong chu trình phát triển tiếp tục thu hẹp.