Story
Công cụ phát hiện ảnh AI của Meta không nhận diện được ảnh đã qua cắt cúp - Reuters
Công cụ phát hiện trí tuệ nhân tạo (AI) mới của Meta đã không nhận diện được một số hình ảnh do chính AI của hãng tạo ra sau khi chúng bị cắt xén, theo một phân tích của hãng tin Reuters. Phát hiện này cho thấy những thách thức lớn trong việc xác thực nội dung do AI tạo ra sau các chỉnh sửa thông thường, một hạn chế có thể gây khó khăn cho việc nhận diện deepfake trong bối cảnh các cuộc bầu cử quan trọng đang diễn ra.
Thử nghiệm hé lộ lỗ hổng
Công cụ phát hiện này được Meta giới thiệu cùng với mô hình tạo ảnh Muse Image. Trong một phân tích trên 40 hình ảnh do Muse Image tạo ra, Reuters nhận thấy công cụ đã xác thực được tất cả các ảnh gốc. Tuy nhiên, nó đã thất bại trong việc xác minh 55% trong số các hình ảnh đó sau khi chúng bị cắt cúp xuống còn khoảng một phần ba đến một nửa kích thước ban đầu.
Meta cho biết công cụ này sử dụng một hệ thống thủy vân ẩn có tên Content Seal, được nhúng vào mỗi hình ảnh do Muse Image tạo ra. Về lý thuyết, dấu hiệu này được thiết kế để giúp người dùng xác minh liệu một bức ảnh có phải do các mô hình AI của Meta tạo ra hay không, ngay cả khi đã qua chỉnh sửa như cắt cúp.
Phản hồi từ Meta và bối cảnh ngành
Khi được hỏi về kết quả phân tích của Reuters, Meta lưu ý rằng công cụ này mới chỉ là phiên bản xem trước (preview). Công ty cho biết thủy vân được thiết kế để tồn tại sau các chỉnh sửa phổ biến, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt xén quá nhiều.
AdVấn đề này không chỉ của riêng Meta. Các đối thủ công nghệ như Google và OpenAI cũng đã thừa nhận rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật thay đổi hình ảnh. Trước đó vào tháng 3, Hội đồng Giám sát của Meta đã kêu gọi công ty đầu tư mạnh hơn vào các công cụ phát hiện để giải quyết "sự lan tràn của nội dung lừa đảo do AI tạo ra" trên các nền tảng của mình.
Quan điểm của chuyên gia
Các chuyên gia cho rằng các hệ thống dựa trên thủy vân có những hạn chế cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, cho biết các phương pháp này có thể hiệu quả cao khi thủy vân còn nguyên vẹn, nhưng bất kỳ sửa đổi nào làm suy yếu tín hiệu — như cắt, thay đổi kích thước, nén mạnh — đều có thể làm giảm hiệu quả.
Tuy nhiên, một số nhà nghiên cứu vẫn lạc quan. Sarah Barrington, một nhà nghiên cứu AI tại Trường Thông tin UC Berkeley, nhận định rằng thủy vân vẫn hứa hẹn cho tương lai của nội dung AI. Bà cho rằng ngay cả khi chỉ phát hiện được 90% các trường hợp, đó vẫn là một bước tiến lớn so với con số 0.