메타 AI 이미지 탐지 도구, 자체 생성 이미지 일부 식별 실패 - 로이터 분석

메타(Meta)가 최근 공개한 인공지능(AI) 이미지 탐지 도구가 자체 생성한 이미지를 잘라냈을 경우 상당수 식별하지 못하는 것으로 로이터 통신 분석 결과 밝혀졌습니다. 이는 주요 선거를 앞두고 온라인상에서 딥페이크 등 조작된 콘텐츠를 가려내는 데 기술적 한계가 있음을 시사하며 플랫폼의 신뢰성에 대한 우려를 낳고 있습니다.

로이터 분석, 탐지 도구의 허점 발견

로이터 통신은 메타의 이미지 생성 모델 '뮤즈 이미지(Muse Image)'로 생성된 이미지 40개를 대상으로 분석을 진행했습니다. 그 결과, 원본 AI 생성 이미지는 모두 탐지 도구가 성공적으로 식별했지만, 이 이미지들을 원본 크기의 3분의 1에서 절반가량으로 잘라내자 55%를 식별하지 못했습니다.

메타는 이 탐지 도구가 '콘텐츠 씰(Content Seal)'이라는 보이지 않는 워터마킹 시스템을 통해 작동한다고 설명했습니다. 이 기술은 뮤즈 이미지가 생성하는 모든 이미지에 내장되어 있으며, 잘라내기 등 일반적인 편집 후에도 원본을 확인할 수 있도록 설계되었습니다.

워터마크 기술의 한계와 시장의 우려

로이터의 분석 결과에 대해 메타 측은 해당 도구가 시제품(preview) 단계에 있다고 언급했습니다. 또한 워터마크가 일반적인 편집에는 유지되도록 설계되었으나, 이미지가 심하게 잘릴 경우 신호가 손실될 수 있다고 설명했습니다.

Ad

이번 발견은 워터마크 기반 탐지 기술의 근본적인 취약성을 보여줍니다. 미국 중간선거 등 주요 정치 일정을 앞두고 조작된 AI 콘텐츠의 확산을 막아야 하는 기술 기업들에게 큰 과제를 안겨줍니다. 구글(Google)과 오픈AI(OpenAI) 같은 경쟁사들 역시 자사의 탐지 도구가 이미지 변형 기술에 완벽하지 않다고 인정한 바 있습니다.

전문가 의견 및 업계 동향

AI 이미지 포렌식 전문가인 시웨이 류 뉴욕주립대 버팔로 캠퍼스 교수는 "워터마크 기반 방식은 워터마크가 손상되지 않았을 때 매우 효과적일 수 있지만, 잘라내기, 크기 조정, 심한 압축 등 신호를 약화시키는 모든 수정은 효율성을 떨어뜨릴 수 있다"고 지적했습니다.

앞서 메타의 감독위원회는 지난 3월, 회사 플랫폼 전반에 걸쳐 "기만적인 AI 생성 콘텐츠의 확산"에 대응하기 위해 더 강력한 탐지 도구에 투자할 것을 권고한 바 있습니다. 이번 분석 결과는 이러한 기술적 과제가 여전히 현재진행형임을 보여줍니다.