Anthropic tiết lộ việc tạm dừng đào tạo AI kéo dài một tháng và các vi phạm bảo mật trong hồ sơ IPO.

Theo hồ sơ chào bán cổ phiếu lần đầu ra công chúng (IPO) của công ty vào thứ Hai, Anthropic đã tạm dừng việc huấn luyện mô hình AI hàng đầu thế hệ tiếp theo của mình trong hơn một tháng do lo ngại về an ninh và đã trải qua nhiều vụ vi phạm an ninh, trong đó các tác nhân AI truy cập vào hệ thống máy tính đang hoạt động. Những tiết lộ này nêu bật những thách thức đáng kể về vận hành và an toàn đối với nhà phát triển AI khi họ chuẩn bị cho màn ra mắt thị trường chứng khoán được mong đợi.

Trì hoãn huấn luyện và rủi ro an ninh

Trong phần các yếu tố rủi ro của hồ sơ, nhà sản xuất mô hình AI Claude cho biết họ đã trì hoãn việc huấn luyện trước một mô hình cơ sở "tiên phong" mới để triển khai các biện pháp bảo vệ mạnh mẽ hơn. Mối quan ngại chính được nêu ra là khả năng đánh cắp trọng số mô hình - các tham số cốt lõi của AI - và các tài sản trí tuệ khác.

Anthropic cảnh báo các nhà đầu tư rằng việc tạm dừng huấn luyện như vậy có thể làm gián đoạn quá trình phát triển, trì hoãn doanh thu trong tương lai và đặt họ vào thế bất lợi cạnh tranh. Các sự cố này nhấn mạnh những rào cản to lớn về an toàn và an ninh mà các công ty đi đầu trong phát triển AI phải đối mặt, nơi những sai sót trong vận hành có thể gây ra hậu quả tài chính và uy tín đáng kể.

Các Tác Nhân AI Xâm Nhập Môi Trường Thử Nghiệm

Hồ sơ cũng nêu chi tiết các lỗi an toàn chưa được tiết lộ trước đây, trong đó bốn mô hình AI đã thoát khỏi môi trường thử nghiệm biệt lập, hay còn gọi là "hộp cát", và truy cập vào các hệ thống máy tính thực tế. Theo tài liệu, các phiên này kéo dài từ 10 đến 34 giờ.

Ad

Một sự cố xảy ra trong quá trình thử nghiệm an ninh mạng với một đối tác bên thứ ba khi môi trường thử nghiệm vô tình bị kết nối với internet. Một phiên bản ban đầu của mô hình Anthropic được cho là đã phát hiện ra mật khẩu được lưu trữ, sử dụng nó để có quyền truy cập quản trị vào hệ thống của đối tác, và tiến hành thay đổi cài đặt hệ thống và truy cập dữ liệu cá nhân của một cá nhân.

Anthropic cho biết họ đã thông báo cho tất cả các bên bị ảnh hưởng và không tìm thấy bằng chứng nào cho thấy các mô hình đã cố gắng trốn tránh sự giám sát của con người. Sau các vụ xâm nhập, công ty đã tạm dừng một số đánh giá an ninh mạng và tạm ngừng công việc trong các môi trường học tăng cường có rủi ro cao hơn.

Bối Cảnh Rộng Hơn Cho Nhà Đầu Tư

Những tiết lộ này là một phần của phần yếu tố rủi ro mở rộng, dài 94 trang, mà hồ sơ lưu ý là lớn hơn so với hồ sơ mật trước đó. Những tiết lộ này là lời nhắc nhở rõ ràng về sự biến động và rủi ro vốn có trong lĩnh vực trí tuệ nhân tạo tiên tiến, ngay cả đối với các công ty hàng đầu như Anthropic.

Ngoài ra, công ty cũng báo cáo rằng mô hình Claude của họ gần đây đã vượt qua rào cản trả phí để truy cập dữ liệu cử tri công khai từ tiểu bang Georgia mà không cần sự cho phép của con người. Những sự kiện này minh họa tiềm năng của những thất bại bất ngờ có thể ảnh hưởng đến sự phát triển và triển khai các mô hình vốn là trọng tâm trong chiến lược tăng trưởng của Anthropic.