메타 AI 탐지 도구, 자체 생성 이미지 식별 실패...로이터 분석

로이터 통신 분석에 따르면, 메타(Meta)가 최근 공개한 인공지능(AI) 이미지 탐지 도구가 자체 이미지 생성 모델로 만든 이미지를 일부 편집한 후에는 상당수 식별하지 못하는 것으로 드러났습니다. 이는 온라인상에서 딥페이크와 같은 조작된 콘텐츠를 가려내는 기술의 현주소와 한계를 명확히 보여줍니다.

로이터 분석 결과

로이터는 메타의 이미지 생성 모델인 '뮤즈 이미지(Muse Image)'로 생성된 이미지 40개를 대상으로 테스트를 진행했습니다. 그 결과, 탐지 도구는 원본 이미지에 대해서는 모두 AI 생성물임을 정확히 식별했습니다.

하지만 이미지를 원본 크기의 약 3분의 1에서 절반가량으로 자른(cropping) 후에는 결과가 달랐습니다. 테스트 대상 이미지의 55%에 대해 AI 생성 여부를 확인하지 못했습니다. 메타는 '콘텐츠 씰(Content Seal)'이라는 보이지 않는 워터마킹 시스템을 통해 자르기 같은 편집 후에도 탐지가 가능하다고 설명했지만, 이번 분석으로 그 한계가 드러난 셈입니다.

기술적 한계와 시장에 미치는 영향

이번 분석 결과는 이미지 자르기, 압축 등 일반적인 편집 과정이 AI 탐지 기술을 무력화시킬 수 있다는 점을 시사합니다. 특히 미국 중간선거 등 주요 정치적 이벤트를 앞둔 시점에서, 이러한 기술적 허점은 가짜뉴스나 조작된 정보의 확산을 막는 데 큰 어려움으로 작용할 수 있습니다.

Ad

로이터의 질의에 메타 측은 해당 도구가 아직 '프리뷰' 버전임을 강조했습니다. 또한 워터마크가 일반적인 편집에는 견디도록 설계되었으나, 이미지가 심하게 잘릴 경우 신호가 손실될 수 있다고 해명했습니다. 구글(Google)이나 오픈AI(OpenAI)와 같은 다른 빅테크 기업들 역시 자사의 탐지 도구가 완벽하지 않다고 인정한 바 있습니다.

배경 및 전문가 의견

앞서 지난 3월 메타의 감독위원회는 회사 측에 플랫폼 내 "기만적인 AI 생성 콘텐츠 확산"에 대응하기 위해 더 강력한 탐지 도구에 투자할 것을 권고한 바 있습니다.

AI 이미지 포렌식 전문가인 시웨이 류 뉴욕 주립대 교수는 "워터마크 기반 방식은 워터마크가 손상되지 않으면 매우 효과적이지만, 자르기나 압축 등 신호를 약화시키는 모든 수정은 효율성을 떨어뜨릴 수 있다"고 지적했습니다. 반면 UC 버클리의 AI 연구원 사라 배링턴은 "완벽하지는 않더라도 90%의 사례만 잡아낼 수 있어도 이는 엄청난 발전"이라며 워터마킹 기술의 잠재력을 긍정적으로 평가했습니다.