Công cụ AI của Meta thất bại trong việc nhận diện hình ảnh do chính nó tạo ra sau khi bị cắt xén

Công cụ phát hiện AI mới của Meta đã không thể nhận diện một số hình ảnh do chính mô hình tạo ảnh của công ty tạo ra sau khi chúng bị cắt xén, theo một phân tích của Reuters. Phát hiện này nhấn mạnh những thách thức trong việc xác minh nội dung do AI tạo ra sau các chỉnh sửa thông thường, một hạn chế có thể gây khó khăn cho việc nhận diện deepfake trực tuyến trong một năm có nhiều cuộc bầu cử quan trọng.

Thử nghiệm của Reuters tiết lộ lỗ hổng

Trong một phân tích trên 40 hình ảnh được tạo bằng mô hình Muse Image của Meta, Reuters nhận thấy công cụ phát hiện đã xác minh thành công tất cả các hình ảnh gốc. Tuy nhiên, công cụ này đã thất bại trong việc xác minh 55% trong số các hình ảnh đó sau khi chúng bị cắt cúp chỉ còn khoảng một phần ba đến một nửa kích thước ban đầu.

Meta cho biết công cụ này, đang trong giai đoạn xem trước, sử dụng một hệ thống thủy vân (watermark) vô hình có tên là Content Seal. Hệ thống này được nhúng vào mọi hình ảnh do Muse Image tạo ra và được thiết kế để giúp người dùng xác minh nguồn gốc AI của Meta, ngay cả khi hình ảnh bị chỉnh sửa.

Phản ứng của Meta và bối cảnh ngành

Khi được hỏi về kết quả phân tích của Reuters, Meta lưu ý rằng công cụ này mới chỉ là phiên bản xem trước. Công ty cho biết thủy vân được thiết kế để duy trì sau các chỉnh sửa phổ biến, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt xén quá nhiều.

Ad

Thách thức này không chỉ của riêng Meta. Các đối thủ công nghệ như Google và OpenAI cũng đã cảnh báo rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật thay đổi hình ảnh. Vấn đề này càng trở nên cấp thiết khi Ban Giám sát của Meta vào tháng 3 đã kêu gọi công ty đầu tư vào các công cụ phát hiện mạnh mẽ hơn để giải quyết "sự gia tăng của nội dung lừa đảo do AI tạo ra".

Ý nghĩa đối với cuộc chiến chống tin giả

Hạn chế của các hệ thống dựa trên thủy vân là một vấn đề được các chuyên gia công nhận. Siwei Lyu, một giáo sư khoa học máy tính tại Đại học Bang New York tại Buffalo, cho biết các phương pháp này có thể hiệu quả cao khi thủy vân còn nguyên vẹn, nhưng "bất kỳ sửa đổi nào làm mất hoặc làm suy yếu tín hiệu được nhúng — chẳng hạn như cắt xén, thay đổi kích thước, nén mạnh hoặc chỉnh sửa — đều có thể làm giảm hiệu quả của chúng."

Sự thất bại trong việc phát hiện các hình ảnh AI đã qua chỉnh sửa làm dấy lên lo ngại về khả năng xác thực nội dung trực tuyến, đặc biệt là trong bối cảnh các sự kiện chính trị quan trọng. Mặc dù công nghệ vẫn đang phát triển, các chuyên gia tin rằng ngay cả việc phát hiện được một phần lớn nội dung giả mạo cũng đã là một bước tiến đáng kể so với việc không có công cụ nào.