로이터 분석: 메타 AI 이미지 탐지기, 자체 생성 후 편집된 이미지 식별 실패

메타(Meta)가 최신 이미지 생성 모델 '뮤즈 이미지(Muse Image)'와 함께 선보인 새로운 인공지능(AI) 탐지 도구가, AI로 생성된 후 일부가 잘린(cropped) 이미지를 제대로 식별하지 못하는 것으로 로이터 통신의 분석 결과 밝혀졌습니다. 이번 발견은 이미지 변형 후 AI 생성 콘텐츠를 검증하는 데 따르는 기술적 어려움을 부각시키며, 딥페이크 확산 방지에 대한 과제를 제기합니다.

로이터 분석 결과

로이터는 뮤즈 이미지로 생성된 40개의 이미지를 분석했습니다. 그 결과, 메타의 탐지 도구는 원본 AI 생성 이미지는 모두 정확히 식별해냈습니다.

그러나 이 이미지들을 원본 크기의 약 3분의 1에서 절반가량으로 자른 후 다시 검증하자, 55%의 이미지를 AI 생성물로 식별하는 데 실패했습니다. 메타는 이 도구가 '콘텐츠 씰(Content Seal)'이라는 보이지 않는 워터마킹 시스템을 통해 작동하며, 이는 이미지 일부가 잘리는 등 일반적인 편집 후에도 유지되도록 설계되었다고 설명한 바 있습니다.

기술적 한계와 의미

로이터의 분석 결과에 대해 메타 측은 해당 도구가 아직 '미리보기(preview)' 버전임을 언급했습니다. 또한 워터마크가 일반적인 편집에는 견디도록 설계되었으나, 이미지가 과도하게 잘릴 경우 신호가 손실될 수 있다고 덧붙였습니다.

Ad

이러한 한계는 메타에만 국한된 문제는 아닙니다. 구글(Google)과 오픈AI(OpenAI) 같은 경쟁사들도 자사의 탐지 도구가 이미지 변형 기술에 완벽하지 않다고 경고한 바 있습니다. 이번 결과는 미국 중간선거 등 중요한 정치적 이벤트를 앞두고 온라인상에서 조작된 콘텐츠를 식별하는 것이 얼마나 어려운지를 보여주는 사례입니다.

전문가 시각

AI 이미지 포렌식 전문가인 뉴욕 주립대학교 버펄로 캠퍼스의 시웨이 류(Siwei Lyu) 교수는 워터마크 기반 시스템의 본질적인 한계를 지적했습니다. 그는 "워터마크가 손상되지 않으면 매우 효과적일 수 있지만, 자르기, 크기 조정, 심한 압축 등 신호를 약화시키는 모든 수정은 그 효과를 감소시킬 수 있다"고 설명했습니다.

반면, UC 버클리 정보대학원의 AI 연구원 사라 배링턴(Sarah Barrington)은 워터마킹 기술이 완벽하지는 않더라도 AI 생성 콘텐츠의 미래에 중요한 역할을 할 것이라고 평가했습니다. 그녀는 "사이버 보안 조치와 마찬가지로 완벽할 수는 없지만, 90%의 사례라도 잡아낼 수 있다면 이는 0%에서 엄청난 도약을 이룬 것"이라고 말했습니다.