Công cụ AI của Meta không nhận diện được ảnh do chính nó tạo ra sau khi bị cắt xén - Reuters

Một phân tích của Reuters cho thấy công cụ phát hiện hình ảnh bằng trí tuệ nhân tạo (AI) mới của Meta không nhận dạng được một số hình ảnh do chính nó tạo ra sau khi bị cắt xén. Phát hiện này nhấn mạnh những thách thức trong việc xác minh nội dung do AI tạo ra, đặc biệt khi chúng đã qua chỉnh sửa, làm dấy lên lo ngại về việc nhận diện các video và hình ảnh giả mạo (deepfake) trong bối cảnh các cuộc bầu cử quan trọng đang diễn ra.

Lỗ hổng trong công nghệ "Content Seal"

Công cụ phát hiện AI được Meta giới thiệu cùng với mô hình tạo ảnh Muse Image. Theo Reuters, trong một thử nghiệm với 40 hình ảnh do Muse Image tạo ra, công cụ này đã xác minh thành công tất cả các ảnh gốc. Tuy nhiên, sau khi các hình ảnh này bị cắt cúp còn khoảng một phần ba đến một nửa kích thước ban đầu, công cụ đã không thể xác minh được 55% trong số đó.

Meta cho biết công cụ này sử dụng một hệ thống thủy vân ẩn (invisible watermarking) có tên là "Content Seal", được nhúng vào mọi hình ảnh do Muse Image tạo ra. Về lý thuyết, công nghệ này được thiết kế để giúp người dùng xác minh liệu một hình ảnh có phải do các mô hình AI của Meta tạo ra hay không, ngay cả khi đã qua chỉnh sửa thông thường như cắt xén.

Phản hồi của Meta và bối cảnh ngành

Khi được hỏi về kết quả phân tích của Reuters, Meta lưu ý rằng công cụ này mới chỉ là phiên bản xem trước (preview). Công ty thừa nhận rằng tín hiệu thủy vân được thiết kế để tồn tại sau các chỉnh sửa phổ biến, nhưng có thể bị mất nếu hình ảnh bị cắt xén quá nhiều.

Ad

Thách thức này không chỉ của riêng Meta. Các đối thủ công nghệ khác như Google và OpenAI cũng đã cảnh báo rằng các công cụ phát hiện của họ không hoàn toàn hiệu quả trước các kỹ thuật chỉnh sửa ảnh. Vào tháng 3, Ban Giám sát của Meta, một cơ quan chuyên gia độc lập, đã kêu gọi công ty đầu tư mạnh mẽ hơn vào các công cụ phát hiện để giải quyết "sự lan tràn của nội dung lừa đảo do AI tạo ra" trên các nền tảng của mình.

Quan điểm của chuyên gia

Các chuyên gia trong ngành cho rằng các hệ thống dựa trên thủy vân có những hạn chế cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, cho biết các phương pháp này có thể hiệu quả cao khi thủy vân còn nguyên vẹn, nhưng "bất kỳ sửa đổi nào làm mất hoặc làm suy yếu tín hiệu được nhúng — chẳng hạn như cắt, thay đổi kích thước, nén mạnh hoặc chỉnh sửa — đều có thể làm giảm hiệu quả của chúng".

Tuy nhiên, một số nhà nghiên cứu vẫn lạc quan. Sarah Barrington, một nhà nghiên cứu AI tại Trường Thông tin UC Berkeley, nhận định rằng công nghệ thủy vân vẫn rất hứa hẹn. Bà cho rằng dù không thể "hoàn toàn kín kẽ", việc phát hiện được 90% các trường hợp vẫn là "một bước nhảy vọt lớn so với con số 0".