Công cụ của Meta thất bại trong việc phát hiện ảnh AI do chính mình tạo ra sau khi bị cắt xén

Một công cụ phát hiện AI mới của Meta đã không thể xác định được các hình ảnh do chính mô hình của công ty tạo ra sau khi chúng bị chỉnh sửa đơn giản như cắt xén, theo một phân tích của Reuters. Phát hiện này nhấn mạnh những thách thức kỹ thuật trong việc xác minh nội dung do AI tạo ra, một vấn đề ngày càng cấp bách trong bối cảnh lo ngại về deepfake và thông tin sai lệch.

Thử nghiệm của Reuters hé lộ lỗ hổng

Công cụ phát hiện này được Meta giới thiệu cùng với mô hình tạo ảnh Muse Image. Trong một phân tích trên 40 hình ảnh do Muse Image tạo ra, Reuters nhận thấy công cụ đã xác minh thành công tất cả các ảnh gốc. Tuy nhiên, sau khi các hình ảnh này bị cắt xén xuống còn khoảng một phần ba đến một nửa kích thước ban đầu, công cụ đã thất bại trong việc xác minh 55% trong số đó.

Meta cho biết công cụ này, đang ở giai đoạn xem trước, sử dụng một hệ thống thủy vân (watermark) vô hình gọi là Content Seal. Hệ thống này được thiết kế để nhúng vào mọi hình ảnh do Muse Image tạo ra, giúp người dùng xác minh nguồn gốc của chúng ngay cả sau khi có những chỉnh sửa thông thường.

Phản ứng của Meta và bối cảnh ngành

Khi được hỏi về kết quả phân tích của Reuters, Meta lưu ý rằng công cụ này vẫn đang trong giai đoạn xem trước. Công ty cho biết thủy vân được thiết kế để duy trì sau các chỉnh sửa phổ biến, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt xén quá nhiều. Hạn chế này không chỉ riêng Meta gặp phải; các đối thủ công nghệ như Google và OpenAI cũng đã cảnh báo rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật thay đổi hình ảnh.

Ad

Vấn đề này trở nên đặc biệt quan trọng trong một năm có nhiều cuộc bầu cử, bao gồm cả cuộc bầu cử giữa kỳ tại Mỹ, khi nguy cơ sử dụng deepfake để lan truyền thông tin sai lệch gia tăng. Trước đó vào tháng 3, Ban Giám sát của Meta đã kêu gọi công ty đầu tư vào các công cụ phát hiện mạnh mẽ hơn để giải quyết "sự gia tăng của nội dung lừa đảo do AI tạo ra" trên các nền tảng của mình.

Giới hạn của công nghệ Watermark

Các chuyên gia cho rằng các hệ thống dựa trên thủy vân có những giới hạn cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, giải thích rằng các phương pháp này có thể rất hiệu quả khi thủy vân còn nguyên vẹn.

• "Bất kỳ sửa đổi nào làm mất hoặc làm suy yếu tín hiệu được nhúng — chẳng hạn như cắt xén, thay đổi kích thước, nén mạnh hoặc chỉnh sửa — đều có thể làm giảm hiệu quả của chúng," ông Lyu cho biết.

Sarah Barrington, một nhà nghiên cứu AI tại Trường Thông tin UC Berkeley, nhận định rằng công nghệ thủy vân đầy hứa hẹn nhưng không thể "hoàn toàn kín kẽ". Tuy nhiên, bà cho rằng ngay cả khi chỉ phát hiện được 90% các trường hợp, đó vẫn là một bước tiến lớn so với con số 0.