Công cụ AI của Meta không nhận diện được hình ảnh do chính nó tạo ra sau khi bị cắt xén - Phân tích của Reuters

Công cụ phát hiện AI mới của Meta đã không nhận diện được một số hình ảnh do chính nó tạo ra sau khi chúng bị cắt xén, theo một phân tích của hãng tin Reuters. Phát hiện này nhấn mạnh những thách thức trong việc xác thực nội dung do AI tạo ra sau các chỉnh sửa thông thường, một hạn chế có thể gây khó khăn cho việc nhận dạng deepfake trực tuyến.

Phân tích hé lộ điểm yếu

Trong một phân tích trên 40 hình ảnh được tạo bằng mô hình Muse Image của Meta, Reuters cho biết công cụ phát hiện đã xác minh được tất cả các hình ảnh gốc. Tuy nhiên, công cụ này đã thất bại trong việc xác minh 55% trong số các hình ảnh đó sau khi chúng bị cắt xén xuống còn khoảng một phần ba đến một nửa kích thước ban đầu.

Meta cho biết công cụ này, đang trong giai đoạn xem trước, sử dụng một hệ thống watermark (hình mờ) ẩn có tên là Content Seal. Hệ thống này được nhúng vào mọi hình ảnh do Muse Image tạo ra và được thiết kế để giúp người dùng xác minh liệu nó có phải do các mô hình AI của Meta tạo ra hay không, ngay cả sau các chỉnh sửa thông thường như cắt xén.

Phản hồi từ Meta và bối cảnh ngành

Khi được hỏi về kết quả phân tích của Reuters, Meta lưu ý rằng công cụ này mới chỉ là phiên bản xem trước. Công ty cho biết watermark được thiết kế để không bị ảnh hưởng sau các chỉnh sửa phổ biến, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt xén quá nhiều.

Ad

Vấn đề này không chỉ riêng Meta gặp phải. Các đối thủ công nghệ như Google và OpenAI cũng đã cảnh báo rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật thay đổi hình ảnh. Thách thức này càng trở nên cấp thiết trong bối cảnh lo ngại về sự gia tăng của "deepfake" và thông tin sai lệch, đặc biệt trong một năm có nhiều cuộc bầu cử quan trọng.

Hạn chế của công nghệ Watermark

Các chuyên gia cho rằng các hệ thống dựa trên watermark có những hạn chế cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, cho biết các phương pháp này có thể hiệu quả cao khi watermark còn nguyên vẹn, nhưng bất kỳ sửa đổi nào làm suy yếu tín hiệu nhúng – chẳng hạn như cắt, thay đổi kích thước, nén mạnh hoặc chỉnh sửa – đều có thể làm giảm hiệu quả của chúng.

Sarah Barrington, một nhà nghiên cứu AI tại Trường Thông tin UC Berkeley, nhận định rằng công nghệ watermark hứa hẹn cho tương lai của nội dung do AI tạo ra, nhưng không thể giải quyết triệt để vấn đề. Bà nói: "Giống như nhiều biện pháp an ninh mạng, nó có thể không hoàn toàn kín kẽ, nhưng ngay cả khi chúng ta chỉ phát hiện được 90% các trường hợp, đó vẫn là một bước tiến lớn so với con số 0."