Story
Công cụ phát hiện ảnh AI của Meta thất bại với chính ảnh đã bị cắt xén, theo phân tích của Reuters
Một phân tích của Reuters cho thấy công cụ phát hiện trí tuệ nhân tạo (AI) mới của Meta đã không thể nhận diện một phần đáng kể các hình ảnh do chính mô hình của họ tạo ra sau khi chúng bị cắt xén. Phát hiện này nhấn mạnh những thách thức trong việc xác thực nội dung do AI tạo ra, đặc biệt khi các chỉnh sửa đơn giản có thể vô hiệu hóa công nghệ nhận dạng.
Chi tiết từ phân tích của Reuters
Trong một thử nghiệm trên 40 hình ảnh được tạo bởi mô hình Muse Image của Meta, Reuters nhận thấy công cụ phát hiện đã xác minh thành công tất cả các ảnh gốc. Tuy nhiên, công cụ này đã thất bại trong việc xác minh 55% số ảnh đó sau khi chúng bị cắt xén xuống còn khoảng một phần ba đến một nửa kích thước ban đầu.
Meta cho biết công cụ này sử dụng một hệ thống thủy vân (watermark) vô hình có tên là "Content Seal". Công nghệ này được thiết kế để tồn tại qua các chỉnh sửa thông thường như cắt xén, nhằm giúp người dùng xác thực liệu một hình ảnh có phải do các mô hình AI của Meta tạo ra hay không.
Phản hồi từ Meta và giới chuyên gia
Khi được hỏi về kết quả phân tích, Meta lưu ý rằng công cụ này mới chỉ là phiên bản xem trước (preview). Công ty cho biết thủy vân được thiết kế để không bị ảnh hưởng bởi các chỉnh sửa phổ biến, nhưng tín hiệu nhận dạng có thể bị mất nếu hình ảnh bị cắt xén quá nhiều.
AdCác chuyên gia trong ngành cũng thừa nhận những hạn chế của công nghệ này. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Tiểu bang New York ở Buffalo, cho biết các phương pháp dựa trên thủy vân có thể bị suy yếu hiệu quả bởi các thao tác như cắt xén, thay đổi kích thước hoặc nén ảnh, tùy thuộc vào thiết kế của thủy vân.
Bối cảnh và tác động thị trường
Phát hiện này làm dấy lên lo ngại về khả năng xác định các sản phẩm deepfake trên mạng, một vấn đề đặc biệt nhạy cảm trong bối cảnh có nhiều cuộc bầu cử quan trọng trên toàn cầu. Việc các công cụ nhận dạng dễ dàng bị qua mặt có thể làm xói mòn niềm tin vào nội dung số và tạo ra rủi ro cho các nhà đầu tư vào các công ty công nghệ đang phát triển các giải pháp này.
Trước đó, Hội đồng Giám sát của Meta đã kêu gọi công ty đầu tư vào các công cụ phát hiện mạnh mẽ hơn để giải quyết "sự gia tăng của nội dung lừa đảo do AI tạo ra". Các đối thủ công nghệ như Google và OpenAI cũng đã cảnh báo rằng công cụ phát hiện của họ không hoàn toàn đáng tin cậy, cho thấy cuộc chiến chống lại thông tin sai lệch do AI tạo ra vẫn còn là một thách thức lớn cho toàn ngành.