메타 AI 이미지 탐지 도구, 자체 생성 이미지 일부 식별 실패...로이터 분석

메타(Meta)가 새로 선보인 인공지능(AI) 이미지 탐지 도구가 잘라내기 등 간단한 편집을 거친 자체 AI 생성 이미지를 상당수 식별하지 못하는 것으로 로이터 통신 분석 결과 밝혀졌습니다. 이는 중요한 선거를 앞두고 딥페이크 등 조작된 콘텐츠의 확산을 막으려는 기술 기업들의 노력이 직면한 기술적 한계를 보여줍니다.

로이터 분석 결과

로이터 통신은 메타의 이미지 생성 모델 '뮤즈 이미지(Muse Image)'로 생성된 이미지 40개를 대상으로 분석을 진행했습니다. 그 결과, 탐지 도구는 원본 AI 생성 이미지는 모두 식별해냈지만, 이미지 크기를 3분의 1에서 절반가량으로 잘라낸 후에는 55%를 식별하는 데 실패했습니다.

메타는 '콘텐츠 씰(Content Seal)'이라는 보이지 않는 워터마킹 시스템을 통해 자사 AI 모델이 생성한 이미지를 식별할 수 있다고 설명해왔습니다. 이 워터마크는 잘라내기 같은 일반적인 편집 후에도 유지되도록 설계되었습니다.

기술적 한계와 전문가 의견

로이터의 분석 결과에 대해 메타 측은 해당 도구가 '프리뷰' 버전임을 언급하며, 워터마크가 일반적인 편집에는 견딜 수 있도록 설계되었지만 이미지가 심하게 잘릴 경우 신호가 손실될 수 있다고 밝혔습니다. 구글이나 오픈AI와 같은 다른 기술 대기업들도 자사의 탐지 도구가 이미지 변형 기술에 완벽하지 않다고 경고한 바 있습니다.

Ad

AI 이미지 포렌식 전문가인 시웨이 류 뉴욕 주립대 버팔로 캠퍼스 교수는 "워터마크 기반 방식은 워터마크가 손상되지 않았을 때 매우 효과적일 수 있지만, 잘라내기, 크기 조정, 심한 압축 등 내장된 신호를 제거하거나 약화시키는 모든 수정은 그 효과를 감소시킬 수 있다"고 설명했습니다.

시장에 미치는 영향

이번 분석 결과는 AI 생성 콘텐츠의 진위를 가리는 기술이 아직 초기 단계에 머물러 있음을 시사합니다. 특히 미국 중간선거 등 주요 정치 이벤트를 앞두고 허위 정보나 딥페이크가 온라인상에 퍼질 경우, 플랫폼 사업자인 메타의 책임과 신뢰성에 대한 우려를 키울 수 있습니다.

앞서 메타의 감독위원회는 지난 3월, 회사 측에 플랫폼 내 "기만적인 AI 생성 콘텐츠 확산"에 대응하기 위해 더 강력한 탐지 도구에 투자할 것을 권고한 바 있습니다. 투자자들은 향후 AI 콘텐츠 규제 동향과 관련 기술의 발전 과정을 면밀히 주시할 필요가 있습니다.