Công cụ của Meta không nhận diện được ảnh AI của chính mình sau khi bị cắt xén

Một công cụ phát hiện AI mới của Meta đã không thể nhận dạng một số hình ảnh do chính nó tạo ra sau khi chúng bị cắt xén, theo một phân tích của Reuters. Phát hiện này cho thấy những thách thức đáng kể trong việc xác thực nội dung do AI tạo ra khi chúng đã qua các chỉnh sửa thông thường, một hạn chế có thể gây khó khăn cho việc nhận diện deepfake trực tuyến.

Thử nghiệm của Reuters cho thấy lỗ hổng

Trong một phân tích trên 40 hình ảnh được tạo bằng mô hình Muse Image của Meta, Reuters nhận thấy công cụ phát hiện đã xác minh thành công tất cả các hình ảnh gốc. Tuy nhiên, công cụ này đã thất bại trong việc xác minh 55% trong số các hình ảnh đó sau khi chúng bị cắt xén xuống còn khoảng một phần ba đến một nửa kích thước ban đầu.

Meta cho biết công cụ này sử dụng một hệ thống hình mờ ẩn có tên là Content Seal, được nhúng vào mỗi hình ảnh do Muse Image tạo ra. Về lý thuyết, công nghệ này được thiết kế để giúp người dùng xác minh liệu một hình ảnh có phải do các mô hình AI của Meta tạo ra hay không, ngay cả khi đã qua chỉnh sửa.

Phản hồi từ Meta và ý nghĩa thị trường

Khi được hỏi về kết quả phân tích của Reuters, Meta lưu ý rằng công cụ này mới chỉ là phiên bản xem trước (preview). Công ty cho biết hình mờ được thiết kế để tồn tại sau các chỉnh sửa thông thường, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt xén quá nhiều.

Ad

Phát hiện này nhấn mạnh một thách thức lớn đối với các nền tảng công nghệ trong cuộc chiến chống lại thông tin sai lệch, đặc biệt trong một năm có nhiều cuộc bầu cử quan trọng. Việc không thể xác định một cách đáng tin cậy nội dung do AI tạo ra có thể làm xói mòn lòng tin của người dùng và các nhà quảng cáo trên các nền tảng của Meta. Các đối thủ công nghệ như Google và OpenAI cũng đã cảnh báo rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật chỉnh sửa ảnh.

Bối cảnh và nhận định của chuyên gia

Trước đó, vào tháng 3, Hội đồng Giám sát của Meta đã kêu gọi công ty đầu tư mạnh mẽ hơn vào các công cụ phát hiện để giải quyết "sự gia tăng của nội dung lừa đảo do AI tạo ra".

Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, cho biết các hệ thống dựa trên hình mờ có những hạn chế. Ông giải thích: "Các phương pháp dựa trên hình mờ có thể rất hiệu quả khi hình mờ còn nguyên vẹn, nhưng bất kỳ sửa đổi nào làm suy yếu tín hiệu được nhúng — chẳng hạn như cắt xén, thay đổi kích thước, nén mạnh — đều có thể làm giảm hiệu quả của chúng."