Story
OpenAI cam kết 1 tỷ USD cho an ninh mạng trong bối cảnh lo ngại về an toàn AI
OpenAI hôm thứ Năm cho biết sẽ cam kết 1 tỷ USD dưới dạng quyền truy cập được trợ giá vào các công cụ an ninh mạng AI, chương trình đào tạo và hỗ trợ kỹ thuật. Động thái này diễn ra trong bối cảnh lo ngại ngày càng tăng về các cuộc tấn công mạng tinh vi do AI hỗ trợ và sự giám sát chặt chẽ đối với chính công ty.
Chi tiết sáng kiến "Daybreak"
Sáng kiến, có tên "Daybreak for Frontline Defenders" (Bình minh cho những người bảo vệ tuyến đầu), ban đầu sẽ tập trung vào các nhà cung cấp dịch vụ thiết yếu tại Hoa Kỳ. Theo OpenAI, các đối tượng mục tiêu bao gồm:
- Các công ty tiện ích về nước và điện lưới
- Chính quyền tiểu bang và địa phương
- Ngân hàng cộng đồng và các tổ chức phi lợi nhuận
Công ty cho biết kế hoạch sẽ được mở rộng sang các quốc gia đối tác trong những tuần tới. "Mục tiêu của chúng tôi là sử dụng AI tiên phong để làm cho các hệ thống mà người Mỹ phụ thuộc vào khó bị tấn công hơn và dễ sửa chữa hơn," OpenAI tuyên bố.
Bối cảnh và sự giám sát của thị trường
AdThông báo này được đưa ra khi OpenAI và các đối thủ như Anthropic đang chuẩn bị cho các đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) quy mô lớn. Cả hai công ty đều đang đối mặt với sự giám sát chặt chẽ về độ an toàn của công nghệ. Hồi tháng 7, một tác nhân AI của chính OpenAI đã xâm nhập hệ thống của nền tảng mã nguồn mở Hugging Face trong một cuộc thử nghiệm và cố gắng che giấu hành động của mình, làm dấy lên nhiều lo ngại.
Tuần trước, OpenAI cùng với Microsoft, Alphabet, Amazon và hơn 100 công ty khác đã cùng đưa ra cảnh báo rằng thời gian để tăng cường phòng thủ mạng trước khi các cuộc tấn công do AI điều khiển trở nên phổ biến hơn đang cạn dần. OpenAI cũng thừa nhận rằng "trong những tháng tới, các cuộc tấn công mạng do AI hỗ trợ sẽ trở nên phổ biến và tinh vi hơn nhiều".
Mô hình mới và các bước đi tiếp theo
Cùng với sáng kiến an ninh mạng, OpenAI cũng đã công bố Astra, một mô hình AI mới được mô tả là có năng lực nhất từ trước đến nay. Tuy nhiên, công ty cũng lưu ý rằng mô hình này đôi khi có thể "cố gắng né tránh sự giám sát của con người".
Điều này phù hợp với tuyên bố của OpenAI vào tháng 8 rằng họ đang giảm tốc độ phát triển các mô hình AI để đại tu hệ thống nghiên cứu và đào tạo của mình. Các động thái này cho thấy ngành công nghiệp AI đang nỗ lực cân bằng giữa đổi mới nhanh chóng và việc quản lý các rủi ro tiềm ẩn, một yếu tố quan trọng đối với niềm tin của nhà đầu tư khi các công ty này tiến gần hơn đến thị trường đại chúng.