메타 AI 이미지 탐지기, 자체 생성 후 잘라낸 이미지 식별에 한계 보여 - 로이터 분석

메타(Meta)가 최근 공개한 인공지능(AI) 이미지 탐지 도구가 자체 생성한 이미지를 잘라냈을 경우 상당수를 식별하지 못하는 것으로 나타났다고 로이터 통신이 분석 결과를 보도했습니다. 이는 특히 중요한 선거가 많은 해에 온라인상 딥페이크와 같은 조작된 콘텐츠를 식별하는 데 따르는 기술적 어려움을 부각시킵니다.

로이터 분석 결과

로이터는 메타의 이미지 생성 모델 '뮤즈 이미지(Muse Image)'로 생성된 이미지 40개를 분석했습니다. 분석 결과, 탐지 도구는 원본 AI 생성 이미지는 모두 정확히 식별해냈습니다.

하지만 이 이미지들을 원본 크기의 약 3분의 1에서 절반 정도로 잘라낸 후에는 55%를 식별하지 못했습니다. 메타는 이 탐지 도구가 '콘텐츠 씰(Content Seal)'이라는 보이지 않는 워터마킹 시스템을 통해 작동하며, 잘라내기와 같은 일반적인 편집 후에도 이미지를 식별할 수 있도록 설계되었다고 설명한 바 있습니다.

기술적 한계와 시장의 우려

로이터의 분석 결과에 대해 메타 측은 해당 도구가 아직 '미리보기(preview)' 버전임을 언급했습니다. 또한 워터마크가 일반적인 편집에는 유지되도록 설계되었지만, 이미지가 심하게 잘릴 경우 신호가 손실될 수 있다고 밝혔습니다.

Ad

이러한 한계는 메타에만 국한된 문제가 아닙니다. 구글(Google)과 오픈AI(OpenAI)와 같은 경쟁사들도 자체 탐지 도구가 이미지 변형 기술에 완벽하게 대응하지는 못한다고 경고한 바 있습니다. 이는 AI 생성 콘텐츠의 진위를 판별하는 기술이 아직 초기 단계에 있으며, 악의적인 조작에 취약할 수 있음을 시사합니다.

전문가 시각 및 배경

AI 이미지 포렌식 전문가인 시웨이 류 뉴욕주립대 버펄로 캠퍼스 컴퓨터 과학 교수는 워터마크 기반 시스템의 한계를 지적했습니다. 그는 "워터마크가 손상되지 않으면 매우 효과적일 수 있지만, 잘라내기, 크기 조정, 심한 압축 등 신호를 약화시키는 모든 수정은 그 효과를 감소시킬 수 있다"고 설명했습니다.

앞서 지난 3월, 메타의 감독위원회는 회사 측에 플랫폼 전반에 걸쳐 "기만적인 AI 생성 콘텐츠의 확산"에 대응하고 더 강력한 탐지 도구에 투자할 것을 촉구한 바 있습니다. 이번 분석은 AI 기술이 발전함에 따라 생성 기술뿐만 아니라 탐지 및 검증 기술의 고도화가 투자자와 시장 참여자들에게 중요한 과제로 부상하고 있음을 보여줍니다.