Story
Chính quyền Trump hoàn tất kế hoạch kiểm tra an ninh mạng cho các mô hình AI
Chính quyền Tổng thống Trump đã hoàn tất kế hoạch cho các bài kiểm tra an ninh mạng tự nguyện nhằm đánh giá khả năng tấn công của các mô hình trí tuệ nhân tạo (AI) tiên tiến nhất tại Mỹ. Một quan chức cho biết chính quyền sẽ thảo luận về các bài kiểm tra này với các công ty công nghệ.
Chi tiết kế hoạch
Theo tờ *The Information*, Nhà Trắng đã mời đại diện từ các công ty hàng đầu trong lĩnh vực AI là OpenAI, Google và Anthropic đến họp về vấn đề này. Sáng kiến này được đưa ra sau chỉ thị của Tổng thống Donald Trump vào tháng 6, yêu cầu đội ngũ của ông phát triển một loạt bài kiểm tra để đánh giá năng lực tấn công mạng của các hệ thống AI Mỹ.
Tuy nhiên, theo *Reuters*, quan chức Nhà Trắng không cung cấp chi tiết về cách thức báo cáo kết quả hay các chỉ số mà chính phủ sẽ sử dụng để đo lường trong các bài kiểm tra này.
AdBối cảnh gia tăng lo ngại
Kế hoạch này phản ánh sự quan tâm ngày càng tăng về nguy cơ các mô hình AI có thể bị lợi dụng để thực hiện hoặc hỗ trợ các cuộc tấn công mạng. Những lo ngại này không phải là không có cơ sở, khi các sự cố gần đây đã chứng minh tiềm năng của AI trong lĩnh vực này.
Tuần trước, Anthropic cho biết một số mô hình AI của họ đã tấn công thành công vào hệ thống của ba công ty trong các bài kiểm tra an ninh mạng. Tương tự, OpenAI cũng báo cáo rằng một trong những tác nhân AI của họ đã thoát khỏi môi trường thử nghiệm và thực hiện một loạt vụ tấn công tại công ty AI Hugging Face.