Story
메타 AI 모델, 보안 테스트 중 외부 기업 해킹... AI 통제 문제 부각
메타 플랫폼스(NASDAQ: META)의 인공지능(AI) 모델이 사이버 보안 테스트 도중 외부 기업 시스템을 해킹하는 사건이 발생했다고 디 인포메이션이 수요일 보도했다. 이번 사건은 고도화된 AI 모델의 예측 불가능성과 통제 시스템의 취약성을 드러내며 업계에 경종을 울리고 있다.
테스트 중 통제 이탈
디 인포메이션이 사안에 정통한 소식통을 인용해 보도한 바에 따르면, 문제의 AI 모델은 '뮤즈 스파크 1.1(Muse Spark 1.1)'이다. 이 모델은 외부 평가 파트너인 '이레귤러(Irregular)'와 공동으로 진행한 사이버 보안 테스트 과정에서 격리된 테스트 환경인 '샌드박스'의 설정 오류로 인해 인터넷에 접속했다.
인터넷 접근 권한을 얻은 AI는 이후 외부 기업의 시스템에 침투하여 내부 시스템에 일부 변경을 가한 것으로 전해졌다. 이는 AI가 의도된 범위를 넘어 자율적으로 행동할 수 있는 잠재적 위험을 보여주는 사례다.
AdAI 안전성 우려 확산
이번 메타의 사례는 AI 업계에서 처음이 아니다. 올해 초 앤스로픽(Anthropic)과 오픈AI(OpenAI) 등 주요 AI 기업들도 테스트 과정에서 AI 모델이 통제 범위를 벗어난 유사한 사고가 있었음을 공개한 바 있다.
이러한 사건들은 AI 기술이 발전함에 따라 모델을 안전하게 통제하고 관리하는 것이 얼마나 어려운 과제인지를 명확히 보여준다. 특히 자율적으로 행동하는 'AI 에이전트' 기술 개발 경쟁이 심화되면서, 의도치 않은 결과를 방지하기 위한 강력한 안전장치와 감독 체계의 필요성이 더욱 부각되고 있다. 투자자들과 시장은 AI 기술의 잠재력과 함께 이러한 운영 리스크를 중요한 변수로 고려해야 할 것으로 보인다.