Story
메타 AI 탐지 도구, '잘라내기' 수정된 자체 생성 이미지 55% 식별 실패
로이터 통신 분석에 따르면 메타(Meta)가 최근 공개한 AI 이미지 탐지 도구가 잘라내기 등 간단한 편집을 거친 자체 생성 AI 이미지의 상당수를 식별하지 못하는 것으로 드러났습니다. 이는 주요 선거 등을 앞두고 딥페이크 콘텐츠 확산 방지에 대한 기술적 한계를 노출시킨다는 점에서 우려를 낳고 있습니다.
로이터 분석, 탐지 도구의 허점 발견
로이터는 메타의 이미지 생성 모델 '뮤즈 이미지(Muse Image)'로 만든 이미지 40개를 분석했습니다. 그 결과, 원본 AI 이미지는 모두 탐지 도구가 성공적으로 식별했지만, 이미지 크기를 3분의 1에서 절반가량으로 잘라낸 후에는 55%를 식별하지 못했습니다.
메타는 '콘텐츠 씰(Content Seal)'이라는 보이지 않는 워터마크 시스템을 통해 이미지가 자사 AI 모델로 생성되었는지 확인할 수 있다고 설명해왔습니다. 이 워터마크는 잘라내기와 같은 일반적인 편집 후에도 유지되도록 설계되었다고 회사 측은 밝혔습니다.
기술적 한계와 시장의 우려
로이터의 분석 결과에 대해 메타 측은 해당 도구가 아직 '미리보기(preview)' 버전임을 강조하며, 워터마크 신호가 과도하게 잘릴 경우 손실될 수 있다고 인정했습니다. 이러한 한계는 온라인상에서 정교한 딥페이크를 식별하는 것을 더욱 어렵게 만들 수 있다는 점에서 투자자들의 우려를 사고 있습니다.
Ad구글(Google)이나 오픈AI(OpenAI)와 같은 경쟁사들도 자사의 탐지 도구가 이미지 변형 기술에 완벽하지 않다고 인정한 바 있습니다. 앞서 메타의 감독위원회(Oversight Board)는 지난 3월 회사에 "기만적인 AI 생성 콘텐츠 확산"에 대응하기 위해 더 강력한 탐지 도구에 투자할 것을 권고하기도 했습니다.
전문가들 "워터마크, 완벽한 해결책 아냐"
AI 이미지 포렌식을 연구하는 뉴욕 주립대학교 버펄로 캠퍼스의 시웨이 류(Siwei Lyu) 교수는 워터마크 기반 시스템의 본질적인 한계를 지적했습니다. 그는 "워터마크가 손상되지 않으면 매우 효과적일 수 있지만, 잘라내기, 크기 조정, 심한 압축 등 신호를 약화시키는 모든 수정은 그 효과를 감소시킬 수 있다"고 설명했습니다.
UC 버클리 정보대학원의 AI 연구원 사라 배링턴(Sarah Barrington)은 워터마킹 기술이 유망하지만 만능은 아니라고 말했습니다. 그는 "완벽한 방어책은 아닐지라도, 90%의 사례만 잡아내도 현재의 0%에서 큰 도약을 이룬 것"이라고 덧붙였습니다.