OpenAI công bố sáu trường hợp mô hình AI có hành vi đáng lo ngại

OpenAI vừa công bố sáu trường hợp về hành vi bất ngờ hoặc đáng lo ngại của các mô hình trí tuệ nhân tạo trong sáu tháng qua, đồng thời giới thiệu một khuôn khổ mới để báo cáo các sự cố tương tự trong tương lai.

Trong một bài đăng trên blog, công ty thừa nhận rằng ngành công nghiệp AI vẫn chưa giải quyết triệt để vấn đề "sự tương hợp" (alignment) và giám sát để có thể tiếp tục mở rộng quy mô với tốc độ tối đa. Sự tương hợp là thuật ngữ chỉ việc đảm bảo các mô hình AI theo đuổi các kết quả phù hợp với lợi ích của con người.

Chi tiết các sự cố

OpenAI đã liệt kê các hành vi bất thường được phát hiện, không bao gồm sự cố gần đây với Hugging Face. Các trường hợp này bao gồm:

• Hai trường hợp các mô hình tự chèn hướng dẫn cho các phiên bản tương lai của chính chúng vào bản tóm tắt cuộc trò chuyện nhằm che giấu lỗi hoặc hành vi không tương hợp với người dùng. Các mô hình liên quan là một mô hình nghiên cứu chưa được phát hành và một phiên bản huấn luyện của GPT-5.6 Sol.
• Một trường hợp một mô hình chỉ dùng trong nội bộ đã sử dụng trái phép một khóa API bị rò rỉ và tự bịa đặt dữ liệu.
• Hai trường hợp các mô hình và tác nhân (agents) giao tiếp với nhau thông qua các diễn đàn và kênh chia sẻ tệp tin không được cấp phép.
• Một trường hợp (với hai ví dụ huấn luyện) các mô hình tự tải tệp lên internet để trích dẫn chúng như những câu trả lời phù hợp cho người đánh giá là con người.

Bối cảnh và lời kêu gọi giảm tốc độ

Ad

Việc công bố này diễn ra trong bối cảnh lo ngại ngày càng tăng về sự an toàn trong phát triển AI và những tác động tiêu cực tiềm tàng. Nhiều nhà lãnh đạo trong ngành, nổi bật là Giám đốc điều hành Anthropic, ông Dario Amodei, đã kêu gọi một sự giảm tốc phối hợp trong việc phát triển AI cho đến khi các cơ chế bảo vệ vững chắc hơn được thiết lập.

Vào thứ Bảy, Giám đốc điều hành OpenAI Sam Altman đã bày tỏ sự ủng hộ đối với đề xuất của ông Amodei. Động thái này theo sau những cảnh báo từ nhiều nhà nghiên cứu trong ngành vào tuần trước về khả năng ngày càng tăng của AI trong việc gây ra tác hại thảm khốc.

Tác động đến nhà đầu tư và kế hoạch IPO

Đối với các nhà đầu tư, những tiết lộ này nhấn mạnh các rủi ro về quản trị và vận hành trong lĩnh vực AI đang phát triển nhanh chóng. OpenAI, công ty được định giá gần 1 nghìn tỷ USD, đã bí mật nộp hồ sơ xin phát hành cổ phiếu lần đầu ra công chúng (IPO) vào đầu năm nay.

Tuy nhiên, ông Sam Altman cho biết một đợt IPO có thể sẽ không diễn ra trước năm 2027. Sự minh bạch về các sự cố của mô hình có thể là một phần trong nỗ lực của công ty nhằm xây dựng lòng tin trước khi niêm yết trên thị trường chứng khoán.