Story
메타 AI 이미지 탐지 도구, 잘라낸 자사 이미지 절반 이상 식별 실패
메타(Meta)가 새로 선보인 인공지능(AI) 이미지 탐지 도구가 자체 생성한 이미지를 일부 잘라낼 경우 절반 이상을 식별하지 못하는 것으로 로이터 통신 분석 결과 밝혀졌습니다. 이는 주요 선거를 앞두고 딥페이크와 같은 조작된 콘텐츠의 확산을 막으려는 기술 업계의 노력이 여전히 기술적 한계에 직면해 있음을 보여줍니다.
로이터 분석 결과
메타는 최근 이미지 생성 모델 '뮤즈 이미지(Muse Image)'를 출시하며 관련 탐지 도구를 함께 공개했습니다. 이 도구는 '콘텐츠 씰(Content Seal)'이라는 보이지 않는 워터마킹 시스템을 통해 뮤즈 이미지가 생성한 모든 이미지에 식별 신호를 삽입합니다.
로이터 통신은 뮤즈 이미지로 생성된 40개의 이미지를 분석했습니다. 분석 결과, 탐지 도구는 원본 이미지는 모두 AI 생성물로 정확히 식별했지만, 원본 크기의 3분의 1에서 절반가량으로 잘라낸 이미지에 대해서는 55%를 식별하지 못했습니다.
기술적 한계와 시장의 우려
이번 분석 결과는 이미지 자르기, 압축, 편집 등 일반적인 변형이 가해졌을 때 AI 생성 콘텐츠를 검증하는 것이 얼마나 어려운지를 드러냅니다. 특히 미국 중간선거 등 중요한 정치 이벤트를 앞두고 온라인상에서 딥페이크를 식별하는 데 어려움이 커질 수 있다는 우려를 낳고 있습니다.
Ad메타 측은 로이터의 분석 결과에 대해 해당 도구가 아직 '미리보기(preview)' 버전임을 강조했습니다. 또한 워터마크가 일반적인 편집에도 유지되도록 설계되었지만, 이미지를 심하게 잘라낼 경우 신호가 손실될 수 있다고 설명했습니다. 구글(Google)과 오픈AI(OpenAI) 같은 경쟁사들도 자사의 탐지 도구가 이미지 변형 기술에 완벽하지 않다고 인정한 바 있습니다.
전문가 시각
AI 이미지 포렌식 전문가인 뉴욕 주립대학교 버펄로 캠퍼스의 시웨이 류 컴퓨터 과학 교수는 워터마크 기반 시스템의 한계를 지적했습니다. 그는 "워터마크가 손상되지 않으면 매우 효과적일 수 있지만, 자르기, 크기 조정, 심한 압축 등 신호를 약화시키는 모든 수정은 효율성을 감소시킬 수 있다"고 말했습니다.
반면, UC 버클리 정보대학원의 AI 연구원 사라 배링턴은 워터마킹 기술이 완벽하지 않더라도 긍정적인 측면이 있다고 평가했습니다. 그는 "완벽한 방수 대책은 아닐 수 있지만, 90%의 사례라도 잡아낼 수 있다면 이는 0%에서 큰 도약을 이룬 것"이라고 언급했습니다.