Story
Công cụ của Meta không phát hiện được hình ảnh AI do chính nó tạo ra sau khi bị cắt xén - Phân tích của Reuters
Công cụ phát hiện trí tuệ nhân tạo (AI) mới của Meta đã không nhận diện được một số hình ảnh do chính mô hình của công ty tạo ra sau khi chúng bị cắt xén. Đây là kết quả từ một phân tích do Reuters thực hiện, nêu bật thách thức trong việc xác minh nội dung AI sau các chỉnh sửa thông thường.
Thử nghiệm của Reuters hé lộ lỗ hổng
Trong một phân tích trên 40 hình ảnh được tạo bởi mô hình Muse Image của Meta, Reuters phát hiện rằng công cụ nhận diện đã xác minh thành công tất cả các hình ảnh gốc. Tuy nhiên, công cụ này đã thất bại trong việc xác minh 55% trong số các hình ảnh đó sau khi chúng bị cắt cúp còn khoảng một phần ba đến một nửa kích thước ban đầu.
Meta cho biết công cụ này, đang trong giai đoạn xem trước, sử dụng một hệ thống hình mờ vô hình gọi là Content Seal. Công nghệ này được nhúng vào mọi hình ảnh do Muse Image tạo ra và được thiết kế để giúp người dùng xác thực nguồn gốc từ các mô hình AI của Meta, ngay cả sau khi chỉnh sửa.
Phản hồi từ Meta và giới chuyên gia
Khi được hỏi về kết quả phân tích, Meta lưu ý rằng công cụ này chỉ là phiên bản xem trước. Công ty cho biết hình mờ được thiết kế để duy trì sau các chỉnh sửa thông thường, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt xén quá nhiều.
AdCác chuyên gia trong ngành cho rằng các hệ thống dựa trên hình mờ có những hạn chế cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Bang New York ở Buffalo, nhận định rằng bất kỳ sửa đổi nào làm suy yếu tín hiệu được nhúng vào — như cắt xén, thay đổi kích thước, hoặc nén mạnh — đều có thể làm giảm hiệu quả của công cụ.
Bối cảnh và ý nghĩa thị trường
Phát hiện này có ý nghĩa quan trọng trong bối cảnh lo ngại ngày càng tăng về "deepfakes" và thông tin sai lệch, đặc biệt trong một năm có nhiều cuộc bầu cử quan trọng. Nó cho thấy những khó khăn kỹ thuật mà ngay cả các công ty công nghệ lớn cũng phải đối mặt trong việc kiểm soát nội dung do AI tạo ra.
Trước đó vào tháng 3, Hội đồng Giám sát của Meta đã kêu gọi công ty đầu tư vào các công cụ phát hiện mạnh mẽ hơn để giải quyết "sự gia tăng của nội dung lừa đảo do AI tạo ra". Đối với các nhà đầu tư, những hạn chế này đặt ra câu hỏi về rủi ro hoạt động và uy tín của Meta (META), cũng như hiệu quả của các biện pháp quản lý nội dung và an toàn AI của công ty.