메타 AI 이미지 탐지 도구, 자체 생성 이미지 '자르기' 후 식별 실패

메타(META)가 최근 공개한 인공지능(AI) 이미지 탐지 도구가 자체 생성 이미지를 자른 후에는 상당수를 식별하지 못하는 것으로 로이터 통신 분석 결과 나타났습니다. 이는 주요 선거를 앞두고 딥페이크와 같은 조작된 콘텐츠의 확산을 막으려는 기술 기업들의 노력이 직면한 중대한 과제를 보여줍니다.

로이터 분석 결과

로이터 통신은 메타의 새로운 이미지 생성 모델 '뮤즈 이미지(Muse Image)'로 생성된 이미지 40개를 대상으로 분석을 진행했습니다. 그 결과, 메타의 탐지 도구는 원본 AI 생성 이미지는 모두 정확하게 식별했습니다.

하지만 이 이미지들을 원본 크기의 약 3분의 1에서 절반가량으로 자른 후에는 55%를 식별하는 데 실패했습니다. 메타는 이 탐지 도구가 '콘텐츠 씰(Content Seal)'이라는 보이지 않는 워터마크 시스템을 통해 작동하며, 자르기와 같은 일반적인 편집 후에도 이미지를 식별할 수 있도록 설계되었다고 설명한 바 있습니다.

기술적 한계와 시장의 우려

로이터의 분석 결과에 대해 메타는 해당 도구가 아직 '미리보기(preview)' 버전임을 지적했습니다. 회사 측은 워터마크가 일반적인 편집에는 견딜 수 있도록 설계되었지만, 이미지가 심하게 잘릴 경우 신호가 손실될 수 있다고 밝혔습니다.

Ad

이러한 한계는 메타뿐만 아니라 업계 전반의 문제입니다. 구글과 오픈AI와 같은 경쟁사들도 자사의 탐지 도구가 이미지 변형 기술에 완벽하지 않다고 경고한 바 있습니다. 특히 정치적 민감도가 높은 시기에 허위 정보 확산 방지는 소셜 미디어 플랫폼의 핵심 과제로, 기술적 불완전성은 규제 리스크와 직결될 수 있습니다.

전문가 의견 및 전망

AI 이미지 포렌식 전문가인 시웨이 류 뉴욕주립대 버팔로 캠퍼스 교수는 워터마크 기반 시스템의 본질적인 한계를 지적했습니다. 그는 "자르기, 크기 조정, 심한 압축 등 워터마크 신호를 제거하거나 약화시키는 모든 수정은 탐지 효율성을 감소시킬 수 있다"고 설명했습니다.

앞서 지난 3월, 메타의 감독위원회는 회사에 "기만적인 AI 생성 콘텐츠 확산"에 대응하기 위해 더 강력한 탐지 도구에 투자할 것을 권고한 바 있습니다. 이번 분석 결과는 AI 생성 콘텐츠의 신뢰성을 확보하기 위한 기술적 노력이 여전히 초기 단계에 있음을 시사합니다.