Công cụ phát hiện ảnh AI của Meta thất bại với chính ảnh do mình tạo ra sau khi bị cắt cúp

Một công cụ phát hiện trí tuệ nhân tạo (AI) mới của Meta đã không thể xác định một phần đáng kể các hình ảnh do chính AI của công ty tạo ra sau khi chúng bị chỉnh sửa bằng cách cắt cúp, theo một phân tích của Reuters. Phát hiện này nhấn mạnh những thách thức trong việc xác thực nội dung do AI tạo ra, một vấn đề ngày càng trở nên cấp thiết.

Phân tích cho thấy lỗ hổng

Trong một thử nghiệm trên 40 hình ảnh được tạo bởi mô hình Muse Image của Meta, Reuters nhận thấy công cụ phát hiện đã xác minh thành công tất cả các ảnh gốc. Tuy nhiên, công cụ này đã thất bại trong việc xác minh 55% số ảnh đó sau khi chúng bị cắt cúp xuống còn khoảng một phần ba đến một nửa kích thước ban đầu.

Meta cho biết công cụ này, đang trong giai đoạn xem trước (preview), sử dụng một hệ thống hình mờ vô hình có tên là "Content Seal". Hệ thống này được nhúng vào mọi hình ảnh do Muse Image tạo ra và được thiết kế để giúp người dùng xác minh nguồn gốc của chúng.

Phản hồi từ Meta và bối cảnh ngành

Khi được hỏi về kết quả phân tích của Reuters, Meta lưu ý rằng công cụ này mới chỉ là phiên bản xem trước. Công ty cho biết hình mờ được thiết kế để không bị ảnh hưởng bởi các chỉnh sửa thông thường, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt cúp quá nhiều.

Ad

Những thách thức này không chỉ của riêng Meta. Các công ty công nghệ đối thủ như Google và OpenAI cũng đã cảnh báo rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật thay đổi hình ảnh. Vấn đề này đặc biệt đáng lo ngại trong bối cảnh các sự kiện chính trị quan trọng, nơi deepfake có thể được sử dụng để lan truyền thông tin sai lệch.

Thách thức trong việc xác thực nội dung AI

Các chuyên gia cho rằng các hệ thống dựa trên hình mờ có những hạn chế cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, cho biết: "Các phương pháp dựa trên hình mờ có thể rất hiệu quả khi hình mờ còn nguyên vẹn, nhưng bất kỳ sửa đổi nào làm suy yếu tín hiệu được nhúng — chẳng hạn như cắt cúp, thay đổi kích thước, nén mạnh hoặc chỉnh sửa — đều có thể làm giảm hiệu quả của chúng."

Trước đó vào tháng 3, Hội đồng Giám sát của Meta đã kêu gọi công ty đầu tư vào các công cụ phát hiện mạnh mẽ hơn để giải quyết "sự phổ biến của nội dung lừa đảo do AI tạo ra" trên các nền tảng của mình. Mặc dù công nghệ vẫn còn những hạn chế, việc phát triển các phương pháp xác thực vẫn là một bước tiến quan trọng trong việc tăng cường tính minh bạch cho nội dung kỹ thuật số.