Story
Công cụ của Meta không phát hiện được ảnh AI do chính mình tạo ra sau khi bị cắt cúp
Công cụ phát hiện trí tuệ nhân tạo (AI) mới của Meta đã không thể nhận diện một số hình ảnh do chính nó tạo ra sau khi chúng bị cắt cúp, theo một phân tích do Reuters thực hiện. Phát hiện này cho thấy những thách thức lớn trong việc xác thực nội dung do AI tạo ra sau các chỉnh sửa phổ biến, một hạn chế có thể gây khó khăn cho việc nhận diện deepfake trong bối cảnh các cuộc bầu cử quan trọng đang diễn ra.
Thử nghiệm của Reuters
Trong một phân tích trên 40 hình ảnh được tạo bằng mô hình Muse Image của Meta, Reuters nhận thấy công cụ phát hiện đã xác minh thành công tất cả các ảnh gốc. Tuy nhiên, công cụ này đã thất bại trong việc xác minh 55% số ảnh đó sau khi chúng bị cắt cúp xuống còn khoảng một phần ba đến một nửa kích thước ban đầu.
Meta cho biết công cụ này, đang trong giai đoạn xem trước, sử dụng một hệ thống hình mờ vô hình gọi là Content Seal. Công nghệ này được nhúng vào mọi hình ảnh do Muse Image tạo ra và được thiết kế để giúp người dùng xác thực nguồn gốc của chúng.
Phản hồi và bối cảnh thị trường
Khi được hỏi về kết quả phân tích, Meta lưu ý rằng công cụ này vẫn là phiên bản xem trước. Công ty cho biết hình mờ được thiết kế để tồn tại sau các chỉnh sửa thông thường, nhưng tín hiệu có thể bị mất nếu hình ảnh bị cắt cúp quá nhiều. Vấn đề này không chỉ của riêng Meta; các đối thủ công nghệ như Google và OpenAI cũng đã cảnh báo rằng công cụ của họ không hoàn toàn hiệu quả trước các kỹ thuật thay đổi hình ảnh.
AdTrước đó, vào tháng 3, Ban Giám sát của Meta đã kêu gọi công ty đầu tư vào các công cụ phát hiện mạnh mẽ hơn để giải quyết "sự phổ biến của nội dung lừa đảo do AI tạo ra". Thất bại trong việc kiểm soát nội dung deepfake có thể làm tăng rủi ro pháp lý và ảnh hưởng đến niềm tin của người dùng và nhà quảng cáo vào các nền tảng của Meta.
Hạn chế của công nghệ
Các chuyên gia cho rằng các hệ thống dựa trên hình mờ có những hạn chế cố hữu. Siwei Lyu, giáo sư khoa học máy tính tại Đại học Tiểu bang New York ở Buffalo, giải thích rằng bất kỳ sửa đổi nào làm suy yếu tín hiệu được nhúng — chẳng hạn như cắt cúp, thay đổi kích thước hoặc nén mạnh — đều có thể làm giảm hiệu quả của phương pháp này.
Sarah Barrington, một nhà nghiên cứu AI tại Trường Thông tin UC Berkeley, nhận định rằng mặc dù công nghệ hình mờ không thể "hoàn toàn kín kẽ", nó vẫn là một bước tiến quan trọng. Bà cho rằng: "Ngay cả khi chúng ta chỉ phát hiện được 90% các trường hợp, đó vẫn là một bước nhảy vọt so với con số 0."