Story

OpenAI, 차세대 AI '아스트라'의 사이버 공격 위험에 개발 일부 중단

ENTHMSVIIDZHZH-TWJAKOHI
Aug 7, 20261 min read
OpenAI, 차세대 AI '아스트라'의 사이버 공격 위험에 개발 일부 중단
Text size
Background

OpenAI가 테스트 중인 차세대 인공지능(AI) 모델이 자율적으로 복잡한 사이버 공격을 수행할 수 있는 능력을 보이자, 관련 내부 개발 일부를 중단한다고 밝혔다. 해당 모델은 회사의 자체 안전 기준상 '심각(critical)' 위험 등급에 도달할 가능성이 제기되었다.

'심각' 등급 위험 발견

Investing.com에 따르면 OpenAI는 목요일, 코드명 '아스트라(Astra)'로 알려진 신규 모델이 테스트 과정에서 높은 수준의 프로그래밍 및 해킹 능력을 나타냈다고 발표했다. 이는 OpenAI가 자체적으로 수립한 안전 프레임워크에서 정의하는 '심각' 위험 기준에 해당할 수 있다.

OpenAI의 기준에 따르면, AI 시스템이 인간의 개입 없이 독립적으로 소프트웨어의 '제로데이 취약점'을 발견하거나 보안 네트워크에 대한 전 과정의 공격을 수행할 수 있을 때 '심각' 등급으로 분류된다. 이는 이전 모델인 GPT-5.6-Sol 등이 기록했던 '높음(high)' 등급보다 더 높은 위험 수준이다.

강화된 안전 조치 시행

이러한 잠재적 위험에 대응하기 위해 OpenAI는 아스트라 모델의 후속 개발을 고도로 격리되고 통제된 환경에서만 진행하기로 결정했다. 회사가 발표한 주요 안전 조치는 다음과 같다.

Sample IUX Markets – In-articleAd
  • 엄격한 보안 통제가 없는 모든 관련 내부 개발 프로세스 전면 중단
  • 모델의 추론 과정을 실시간으로 추적하여 위험 행동을 감지하고 즉시 차단하는 자동화된 모니터링 시스템 배치
  • 정부 기관 및 제3자 보안 기관을 초빙하여 모델에 대한 외부 스트레스 테스트 실시

AI 경쟁 속 안전성 딜레마

이번 개발 중단 조치는 AI 기술의 상업화 경쟁과 안전성 확보 사이에서 실리콘밸리가 겪고 있는 긴장감을 보여주는 사례다. 투자자들과 시장은 AI 기술의 발전 속도뿐만 아니라, 개발 기업들이 잠재적 위험을 어떻게 관리하는지에 대해서도 주목하고 있다.

OpenAI는 아스트라 모델이 아직 외부에 공개되지 않았으며, 최근 발생한 다른 AI 보안 사고와는 무관하다고 선을 그었다. 또한 이번 조치는 위험한 능력이 대중이나 기업 고객에게 배포되기 전, 내부 개발 단계에서 이를 성공적으로 식별하고 통제한 사례라며 자사의 안전 메커니즘이 효과적으로 작동했음을 보여준다고 강조했다.

Back to latest news

LATEST