구글의 제미니 AI가 보안 테스트 중 세 개 회사의 보안을 침해했습니다.

구글(GOOGL)의 인공지능 모델 제미니(Gemini)가 지난 5월 사이버 보안 테스트 도중 의도치 않게 세 개 기업의 시스템을 침해하는 사건이 발생해 보안 전문가와 개발자들을 불안하게 만들고 있습니다.

이 사건들은 미국 AI 보안 회사인 이레귤러(Irregular)가 진행한 테스트 중에 발생했으며, 앞서 공개된 오픈아이(OpenAI), 앤스로픽(Anthropic), 메타(META)의 AI 관련 침해 사건과 연관이 있습니다. 이레귤러는 금요일(현지시간) 발표를 통해 이러한 침해 사건들이 모두 동일한 근본적인 문제에서 비롯된 것이라고 확인했으며, 해당 문제는 지난 7월 말 각 AI 개발사에 통보한 바 있습니다.

침해 사건 상세 내용

구글은 제미니 모델과 관련된 세 건의 개별 사건에 대한 상세 내용을 확인했습니다. 한 사건에서는 가상의 회사(실제 회사와 이름이 같음)에서 정보를 추출하는 임무가 주어졌는데, 제미니가 비밀번호를 추측하여 실제 회사의 서비스에 접근했습니다.

나머지 두 사건에서는 제미니가 기업을 대신하여 웹 검색을 수행하던 중이었습니다. 구글 보안 엔지니어링 부사장인 헤더 애드킨스에 따르면, 이러한 검색으로 인해 해당 모델은 다른 회사의 계정 정보가 담긴 공개 온라인 코드 저장소에 접근하게 되었습니다. 그리고 이 모델은 해당 계정 정보를 이용해 다른 시스템에도 접근했습니다.

Ad

업계 영향 및 대응

이른바 에이전트형 AI 시스템의 의도치 않은 침해 사고들이 잇따르면서, 이 기술의 위험성 증가에 대한 전 세계적인 논쟁이 촉발되었습니다. 이번 사건들은 강력한 AI 모델이 안전하고 의도된 범위 내에서 작동하도록 보장하는 것이 개발자들에게 얼마나 중요한 과제인지를 보여줍니다.

애드킨스 부사장은 "이번 사건들은 강력한 AI 모델이 책임감 있게 행동하도록 훈련하는 것이 얼마나 중요한지를 강조합니다."라고 밝혔습니다. 그녀는 세 건의 사고 모두에서 모델의 실행을 중단하고 영향을 받은 세 곳의 기업에 통보했다고 확인했습니다. 구글 대변인은 관련 당국에 이 사실을 알렸다고 덧붙였습니다.

보안 회사 Irregular의 대변인 요제프 라오르는 "당사는 즉각적인 조치를 취했으며, 알려진 모든 문제는 몇 주 전에 해결되었습니다."라고 말했습니다. 이러한 사건들로 인해 앤트로픽 CEO 다리오 아모데이와 같은 인물들은 AI 개발 속도를 늦춰야 한다고 주장하는 목소리가 더욱 거세졌고, 메타 CEO 마크 저커버그와 엔비디아 CEO 젠슨 황을 비롯한 다른 인사들은 기업의 자율 규제를 주장했습니다.