Cựu Giám đốc An toàn của Google cảnh báo trí tuệ nhân tạo (AI) gây ra rủi ro lớn hơn cho trẻ em so với mạng xã hội.

Một cựu giám đốc điều hành cấp cao của Google (thuộc Alphabet) đã đưa ra lời cảnh báo gay gắt rằng ngành công nghiệp trí tuệ nhân tạo đang lặp lại những sai lầm của kỷ nguyên mạng xã hội, có khả năng gây ra tác hại lớn hơn nữa cho trẻ em. Tom Siegel, người sáng lập nhóm an toàn và tin cậy của Google, kêu gọi làm chậm lại sự phát triển của AI, cho rằng niềm tin của ngành công nghiệp về khả năng tự điều chỉnh là "không thực tế", theo những bình luận được đưa ra với Reuters tuần này.

Lời Cảnh Báo Nghiêm Khắc Từ Một Cựu Chiến Binh Công Nghệ

Siegel, người từng giữ chức phó chủ tịch phụ trách an toàn và tin cậy của Google từ năm 2004 đến năm 2019, bày tỏ mối lo ngại ngày càng tăng rằng AI gây ra mối đe dọa nghiêm trọng hơn đối với giới trẻ so với các nền tảng mạng xã hội, vốn đã phải đối mặt với hàng ngàn vụ kiện và áp lực pháp lý toàn cầu về cáo buộc gây hại cho trẻ vị thành niên. Ông lập luận rằng các công ty AI lớn đang triển khai các tính năng tiên tiến cho trẻ em mà không có các biện pháp bảo vệ đầy đủ.

"Chúng ta đang ở trong một tình huống thực sự tồi tệ về những gì AI đang làm đối với trẻ em," Siegel nói với Reuters. Ông cảnh báo về "những kịch bản gây hại rất, rất nghiêm trọng," nêu ra các rủi ro bao gồm tự tử, rối loạn tâm thần và suy giảm khả năng tư duy phản biện - thuật ngữ chỉ sự suy giảm tư duy phản biện do quá phụ thuộc vào trí tuệ nhân tạo (AI).

Vai trò mới để thúc đẩy trách nhiệm giải trình

Để giải quyết những lo ngại này, Siegel đã thông báo vào thứ Ba rằng ông đã gia nhập nhóm vận động phi lợi nhuận Common Sense Media với tư cách là giám đốc điều hành đầu tiên của Viện An toàn AI dành cho Thanh thiếu niên mới thành lập. Tổ chức nghiên cứu này, được hỗ trợ bởi các công ty trong ngành bao gồm Anthropic và OpenAI Foundation, nhằm mục đích phát triển các tiêu chuẩn độc lập để đánh giá rủi ro của các công cụ AI đối với trẻ em, tương tự như thử nghiệm va chạm đối với xe cộ.

Ad

Siegel cho biết mục tiêu của ông là hợp tác với các công ty AI và các nhóm bên thứ ba để tạo ra các tiêu chuẩn trách nhiệm giải trình. Ông đã rời Google (GOOGL) vào năm 2019 sau khi kết luận rằng ngành công nghệ đang "chững lại" trong khả năng đảm bảo an toàn trực tuyến cho người tiêu dùng.

Phản hồi của ngành và các biện pháp bảo vệ được đề xuất

Siegel đã vạch ra các bước ngay lập tức mà các công ty AI có thể thực hiện để bảo vệ tốt hơn người dùng trẻ tuổi, ngay cả khi điều đó ảnh hưởng đến việc sử dụng hoặc lợi nhuận ngắn hạn. Ông cho rằng việc không hành động sẽ dẫn đến những hậu quả nghiêm trọng hơn từ các vụ kiện và quy định trong tương lai.

• Anthropic và OpenAI có thể triển khai hệ thống xác minh độ tuổi mạnh mẽ hơn để ngăn chặn trẻ vị thành niên truy cập vào chatbot của họ.
• Google có thể thêm một nút chuyển đổi đơn giản để tắt Chế độ Tổng quan AI và Chế độ AI trong tìm kiếm, tương tự như các bộ lọc hiện có cho nội dung khiêu dâm.

Đáp lại những bình luận này, người phát ngôn của Google nói với Reuters rằng tính năng kiểm soát của phụ huynh cho phép tắt hoàn toàn quyền truy cập của trẻ em vào công cụ tìm kiếm. Người phát ngôn của OpenAI cho biết công ty sử dụng "tín hiệu tài khoản và hành vi" ngoài thông tin tự khai báo về độ tuổi để xác định người dùng chưa đủ tuổi và đang liên tục cải thiện hệ thống của mình. Anthropic chưa đưa ra bình luận ngay lập tức.