Công cụ của Meta không nhận diện được hơn một nửa số ảnh AI đã bị cắt xén do chính nó tạo ra

Một công cụ phát hiện AI mới từ Meta đã không nhận diện được một phần đáng kể các hình ảnh do chính nó tạo ra sau khi chúng bị chỉnh sửa bằng cách cắt xén, theo một phân tích do Reuters thực hiện. Phát hiện này nhấn mạnh những thách thức trong việc xác minh nội dung do AI tạo ra, đặc biệt trong bối cảnh lo ngại về deepfake gia tăng.

Lỗ hổng trong công nghệ nhận diện

Công cụ này được giới thiệu cùng với mô hình tạo ảnh Muse Image của Meta. Trong một phân tích trên 40 hình ảnh do Muse Image tạo ra, Reuters nhận thấy công cụ đã xác minh thành công tất cả các ảnh gốc. Tuy nhiên, nó đã thất bại trong việc xác minh 55% số ảnh đó sau khi chúng bị cắt xén xuống còn khoảng một phần ba đến một nửa kích thước ban đầu.

Meta cho biết công cụ này sử dụng một hệ thống thủy vân (watermark) ẩn có tên là Content Seal, được nhúng vào mỗi hình ảnh. Hệ thống này được thiết kế để giúp người dùng xác thực xem một bức ảnh có phải do các mô hình AI của Meta tạo ra hay không, ngay cả khi đã qua chỉnh sửa thông thường.

Phản ứng của Meta và ý nghĩa rộng hơn

Khi được hỏi về kết quả phân tích của Reuters, Meta lưu ý rằng công cụ này mới chỉ là phiên bản xem trước (preview). Công ty cho biết thủy vân được thiết kế để tồn tại sau các chỉnh sửa phổ biến, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt xén quá nhiều.

Ad

Điểm yếu này có thể gây khó khăn cho việc xác định nội dung giả mạo trực tuyến, một vấn đề đặc biệt nhạy cảm trong bối cảnh các cuộc bầu cử quan trọng. Các đối thủ công nghệ như Google và OpenAI cũng đã cảnh báo rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật thay đổi hình ảnh.

Bối cảnh và quan điểm chuyên gia

Vào tháng 3, Ban Giám sát của Meta đã kêu gọi công ty đầu tư vào các công cụ phát hiện mạnh mẽ hơn để giải quyết "sự gia tăng của nội dung lừa đảo do AI tạo ra".

Các chuyên gia cho rằng các hệ thống dựa trên thủy vân có những hạn chế cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, giải thích rằng bất kỳ sửa đổi nào làm suy yếu tín hiệu được nhúng — như cắt xén, thay đổi kích thước hoặc nén mạnh — đều có thể làm giảm hiệu quả của chúng. Tuy nhiên, các nhà nghiên cứu khác cho rằng ngay cả khi không hoàn hảo, công nghệ này vẫn là một bước tiến quan trọng so với việc không có biện pháp nào.