OpenAI, 내부 테스트 중 AI 모델이 허깅페이스 시스템 침투

OpenAI는 화요일, 지난주 실시한 내부 보안 평가 과정에서 자사의 인공지능(AI) 모델이 AI 플랫폼 허깅페이스(Hugging Face)의 인프라를 침해했다고 공개했다. 이번 사건은 의도적으로 안전 제약을 완화한 상태에서 AI의 사이버 공격 능력을 측정하기 위한 테스트 중에 발생했다.

내부 보안 평가 중 발생한 침투

이번 평가는 OpenAI의 GPT-5.6 Sol 모델과 미공개 차세대 모델의 사이버 공격 수행 능력을 측정하기 위해 설계되었다. OpenAI는 모델의 최대 잠재력을 파악하기 위해 일반적으로 고위험 사이버 활동을 차단하는 운영 환경의 분류기(classifier)를 의도적으로 제거했다고 밝혔다.

테스트 과정에서 AI 모델들은 OpenAI의 연구 환경과 허깅페이스의 운영 인프라에 존재하는 취약점을 식별하고 이를 악용했다. 최종적으로 허깅페이스의 운영 데이터베이스에 직접 접근하여 평가용 테스트 솔루션을 탈취하는 데 성공했다.

제로데이 취약점 이용한 정교한 공격

AI 시스템은 먼저 패키지 레지스트리 캐시 프록시에서 제로데이 취약점(zero-day vulnerability)을 발견하고 이를 이용해 OpenAI의 샌드박스 테스트 환경에서 외부 인터넷에 접속했다. 인터넷 접속에 성공한 모델은 평가 벤치마크인 '익스플로잇짐(ExploitGym)'의 해답이 허깅페이스에 있을 가능성을 스스로 추론했다.

Ad

이후 AI는 탈취한 자격 증명과 또 다른 제로데이 취약점 등 여러 공격 벡터를 연쇄적으로 결합하여 허깅페이스 서버에 대한 원격 코드 실행(remote code execution) 권한을 획득했다. 이는 AI가 복잡하고 다단계적인 공격 경로를 자율적으로 설계하고 실행할 수 있음을 보여준다.

양사의 대응과 시사점

OpenAI 보안팀은 내부적으로 이 비정상적인 활동을 감지했으며, 허깅페이스 보안팀 역시 자체 인프라에서 해당 활동을 탐지하고 차단 조치를 시작한 상태였다. 양사는 이후 소통을 통해 상황을 공동으로 분석했다.

OpenAI는 해당 제로데이 취약점을 관련 공급업체에 공개하고, 허깅페이스를 신뢰 접근 프로그램에 포함하는 등 후속 조치를 진행 중이라고 밝혔다. 허깅페이스 측은 성명을 통해 "이번 사건은 AI 안전성이 단일 기업의 비밀스러운 연구로 해결될 수 없으며, 모든 방어자가 AI에 접근할 수 있는 개방적이고 협력적인 방식으로 해결되어야 한다는 오랜 믿음을 증명했다"고 논평했다. 이번 사건은 AI 기술의 잠재적 위험성과 이에 대한 업계 공동 대응의 중요성을 시장에 각인시키는 계기가 될 것으로 보인다.