Story
Công cụ của Meta thất bại trong việc phát hiện ảnh AI do chính nó tạo ra sau khi bị cắt xén - Phân tích của Reuters
Một công cụ phát hiện AI mới của Meta đã không nhận diện được một số hình ảnh do chính nó tạo ra sau khi chúng bị cắt xén, theo một phân tích của Reuters. Phát hiện này nhấn mạnh những thách thức trong việc xác minh hình ảnh do AI tạo ra sau các chỉnh sửa thông thường, một hạn chế có thể gây khó khăn cho việc nhận diện deepfake trực tuyến.
Phân tích của Reuters
Công cụ phát hiện này được Meta giới thiệu cùng với mô hình tạo ảnh Muse Image. Trong một phân tích trên 40 hình ảnh được tạo bằng Muse Image, Reuters nhận thấy công cụ này đã xác minh thành công tất cả các hình ảnh gốc do AI tạo ra.
Tuy nhiên, công cụ đã thất bại trong việc xác minh 55% số hình ảnh đó sau khi chúng bị cắt xén xuống còn khoảng một phần ba đến một nửa kích thước ban đầu. Meta cho biết công cụ này sử dụng một hệ thống thủy vân (watermark) vô hình có tên là Content Seal, được nhúng vào mỗi hình ảnh để giúp người dùng xác minh nguồn gốc của chúng.
Hạn chế công nghệ và phản hồi từ Meta
Khi được hỏi về kết quả phân tích của Reuters, Meta lưu ý rằng công cụ này mới chỉ là phiên bản xem trước (preview). Công ty cho biết thủy vân được thiết kế để không bị ảnh hưởng sau các chỉnh sửa thông thường, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt xén quá nhiều.
AdCác chuyên gia cho rằng các hệ thống dựa trên thủy vân có những hạn chế cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Tiểu bang New York ở Buffalo, giải thích rằng "bất kỳ sửa đổi nào làm mất hoặc làm suy yếu tín hiệu được nhúng — chẳng hạn như cắt xén, thay đổi kích thước, nén mạnh hoặc chỉnh sửa — đều có thể làm giảm hiệu quả của chúng."
Bối cảnh và ý nghĩa
Sự hạn chế này gây ra lo ngại về việc phổ biến nội dung lừa đảo do AI tạo ra, đặc biệt trong một năm có nhiều cuộc bầu cử quan trọng. Các công ty công nghệ đối thủ như Google và OpenAI cũng đã cảnh báo rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật thay đổi hình ảnh.
Trước đó vào tháng 3, Hội đồng Giám sát của Meta đã kêu gọi công ty đầu tư vào các công cụ phát hiện mạnh mẽ hơn để giải quyết "sự gia tăng của nội dung lừa đảo do AI tạo ra" trên các nền tảng của mình. Mặc dù công nghệ thủy vân chưa hoàn hảo, các nhà nghiên cứu cho rằng nó vẫn là một bước tiến quan trọng trong việc tăng cường tính minh bạch cho nội dung số.