Công cụ phát hiện ảnh AI của Meta thất bại với chính ảnh do mình tạo ra sau khi bị cắt cúp

Công cụ phát hiện trí tuệ nhân tạo (AI) mới của Meta đã không nhận diện được một số hình ảnh do chính AI của công ty tạo ra sau khi chúng bị cắt cúp, theo một phân tích do Reuters thực hiện. Phát hiện này cho thấy những thách thức lớn trong việc xác thực nội dung do AI tạo ra khi chúng đã qua chỉnh sửa, một hạn chế có thể gây khó khăn cho việc nhận diện deepfake trực tuyến.

Phân tích hé lộ lỗ hổng

Trong một thử nghiệm với 40 hình ảnh được tạo bằng mô hình Muse Image của Meta, Reuters nhận thấy công cụ phát hiện đã xác thực thành công tất cả các ảnh gốc. Tuy nhiên, công cụ này đã thất bại trong việc xác minh 55% số ảnh đó sau khi chúng bị cắt cúp xuống còn khoảng một phần ba đến một nửa kích thước ban đầu.

Meta cho biết công cụ này sử dụng một hệ thống thủy vân ẩn (invisible watermarking) có tên là Content Seal, được nhúng vào mỗi hình ảnh do Muse Image tạo ra. Về lý thuyết, hệ thống này được thiết kế để giúp người dùng xác minh liệu một hình ảnh có phải do các mô hình AI của Meta tạo ra hay không, ngay cả khi đã qua các chỉnh sửa thông thường như cắt cúp.

Phản hồi từ Meta và thách thức chung

Khi được hỏi về kết quả phân tích của Reuters, Meta lưu ý rằng công cụ này mới chỉ là phiên bản xem trước. Công ty cho biết thủy vân được thiết kế để tồn tại sau các chỉnh sửa phổ biến, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt cúp quá nhiều.

Ad

Vấn đề này không chỉ của riêng Meta. Các đối thủ công nghệ như Google và OpenAI cũng đã cảnh báo rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật thay đổi hình ảnh. Thách thức này càng trở nên cấp thiết trong bối cảnh lo ngại về việc sử dụng nội dung AI gây hiểu lầm, đặc biệt là trong các sự kiện chính trị quan trọng.

Quan điểm từ giới chuyên gia

Các chuyên gia cho rằng các hệ thống dựa trên thủy vân có những hạn chế cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, cho biết các phương pháp này có thể hiệu quả cao khi thủy vân còn nguyên vẹn, nhưng "bất kỳ sửa đổi nào làm mất hoặc làm suy yếu tín hiệu được nhúng — chẳng hạn như cắt, thay đổi kích thước, nén mạnh hoặc chỉnh sửa — đều có thể làm giảm hiệu quả của chúng".

Trước đó vào tháng 3, Ban Giám sát của Meta đã kêu gọi công ty đầu tư vào các công cụ phát hiện mạnh mẽ hơn để giải quyết "sự phổ biến của nội dung lừa đảo do AI tạo ra" trên các nền tảng của mình. Dù chưa hoàn hảo, các chuyên gia như Sarah Barrington từ UC Berkeley cho rằng việc phát triển công nghệ thủy vân vẫn là một bước tiến quan trọng, "ngay cả khi chúng ta chỉ bắt được 90% các trường hợp, đó vẫn là một bước nhảy vọt so với con số 0".