Story
구글, 정책 위반 문제로 '구글 어스' AI 이미지 생성 기능 출시 하루 만에 중단
알파벳(GOOGL)의 구글이 '구글 어스'에 새롭게 도입했던 인공지능(AI) 이미지 생성 기능을 출시 단 하루 만에 일시 중단한다고 밝혔습니다. 사용자들이 구글의 정책을 위반하는 것으로 보이는 이미지를 공유한 것이 직접적인 원인이 되었습니다.
출시 하루 만의 서비스 중단
해당 기능은 구글의 '나노 바나나 2(Nano Banana 2)' AI 모델을 기반으로, 사용자가 전 세계 어느 위치에서든 텍스트 프롬프트를 입력하면 구글 어스의 위성, 항공 및 3D 이미지를 바탕으로 사실적인 이미지를 생성하는 도구였습니다. 그러나 일부 사용자들이 실제 기념물이나 랜드마크 이미지 위에 가짜 시나리오를 만들어내는 등 허위 정보 생성 가능성에 대한 비판이 제기되었습니다.
구글은 소셜 미디어 X를 통해 "지리 공간 전문가들이 이 기능을 유용하게 사용하는 사례도 있었지만, 정책을 위반하는 것으로 보이는 생성 이미지 스크린샷이 공유되는 것도 확인했다"고 밝혔습니다. 이어 "더 강력한 안전장치를 마련하는 동안 해당 기능을 일시 중단한다"고 덧붙였습니다. 다만 구글은 어떤 유형의 이미지가 정책을 위반했는지는 구체적으로 명시하지 않았습니다.
AdAI 기술 도입의 '성장통'
이번 사태는 빅테크 기업들이 제품 전반에 AI 도구를 서둘러 통합하는 과정에서 겪는 어려움을 단적으로 보여줍니다. 기술 기업들은 사용자들의 정책 위반, 허위 정보 확산, 개인정보 보호 문제 등에 대응하기 위해 출시된 기능을 수정하거나 제한, 또는 일시적으로 비활성화하는 사례가 반복되고 있습니다.
실제로 이달 초 메타(META) 역시 할리우드 조합을 포함한 광범위한 비판에 직면한 후, 공개된 인스타그램 계정을 이용해 이미지를 생성하던 AI 기능 '뮤즈 이미지(Muse Image)'를 개인정보 보호 문제로 중단한 바 있습니다. 이번 구글의 조치는 생성형 AI 기술을 안전하게 배포하고 관리하는 것이 업계 전반의 핵심 과제임을 다시 한번 확인시켜 주었습니다.