Công cụ của Meta thất bại trong việc phát hiện ảnh AI do chính mình tạo ra sau khi bị cắt xén

Công cụ phát hiện trí tuệ nhân tạo (AI) mới của Meta đã không thể nhận dạng một phần đáng kể các hình ảnh do chính mô hình của công ty tạo ra sau khi chúng bị chỉnh sửa đơn giản như cắt xén, theo một phân tích do Reuters thực hiện. Phát hiện này nhấn mạnh những thách thức kỹ thuật trong việc xác thực nội dung do AI tạo ra, một vấn đề ngày càng trở nên cấp thiết.

Thử nghiệm của Reuters tiết lộ điểm yếu

Công cụ phát hiện này được Meta giới thiệu cùng với mô hình tạo ảnh Muse Image. Theo phân tích của Reuters trên 40 hình ảnh do Muse Image tạo ra, công cụ đã xác minh thành công toàn bộ các ảnh gốc. Tuy nhiên, nó đã thất bại trong việc xác minh 55% số ảnh đó sau khi chúng bị cắt xén xuống còn khoảng một phần ba đến một nửa kích thước ban đầu.

Meta cho biết công cụ này, hiện đang ở giai đoạn xem trước (preview), sử dụng một hệ thống thủy vân ẩn (invisible watermarking) có tên là Content Seal. Hệ thống này được thiết kế để giúp người dùng xác minh liệu một hình ảnh có phải do các mô hình AI của Meta tạo ra hay không, ngay cả sau khi bị chỉnh sửa thông thường. Phản hồi về kết quả phân tích, Meta thừa nhận rằng tín hiệu thủy vân có thể bị mất nếu hình ảnh bị cắt xén quá nhiều.

Thách thức lớn trong cuộc chiến chống deepfake

Lỗ hổng này cho thấy một thách thức lớn trong việc nhận diện các sản phẩm deepfake trực tuyến, đặc biệt trong bối cảnh các sự kiện chính trị quan trọng đang diễn ra. Việc nội dung AI có thể dễ dàng qua mặt các công cụ phát hiện sau khi chỉnh sửa làm gia tăng nguy cơ lan truyền thông tin sai lệch.

Ad

Các đối thủ công nghệ khác như Google và OpenAI cũng đã cảnh báo rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật thay đổi hình ảnh. Trước đó vào tháng 3, Ban Giám sát của Meta cũng đã kêu gọi công ty đầu tư mạnh mẽ hơn vào các công cụ phát hiện để giải quyết "sự gia tăng của nội dung lừa đảo do AI tạo ra" trên các nền tảng của mình.

Quan điểm từ giới chuyên gia

Các chuyên gia trong ngành cho rằng các hệ thống dựa trên thủy vân có những hạn chế cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, cho biết: "Các phương pháp dựa trên thủy vân có thể rất hiệu quả khi thủy vân còn nguyên vẹn, nhưng bất kỳ sửa đổi nào làm suy yếu tín hiệu — chẳng hạn như cắt, thay đổi kích thước, nén mạnh — đều có thể làm giảm hiệu quả của chúng."

Tuy nhiên, một số nhà nghiên cứu vẫn lạc quan. Sarah Barrington, một nhà nghiên cứu AI tại Trường Thông tin UC Berkeley, nhận định rằng công nghệ thủy vân vẫn rất hứa hẹn. Bà cho rằng ngay cả khi chỉ phát hiện được 90% các trường hợp, đó vẫn là "một bước nhảy vọt lớn so với con số 0".