Story

OpenAI, 차세대 AI '아스트라'의 심각한 사이버 공격 능력 발견 후 일부 개발 중단

ENTHMSVIIDZHZH-TWJAKOHI
Aug 7, 20261 min read
OpenAI, 차세대 AI '아스트라'의 심각한 사이버 공격 능력 발견 후 일부 개발 중단
Text size
Background

OpenAI가 예비 테스트에서 차세대 인공지능(AI) 모델이 정교한 사이버 공격을 자율적으로 수행할 수 있는 것으로 나타나자 일부 내부 개발을 중단했다고 밝혔다. 이는 AI 기술의 안전성에 대한 업계의 우려가 커지는 가운데 나온 선제적 조치다.

'치명적' 위험 등급 도달

목요일(현지시간) 샌프란시스코에 본사를 둔 OpenAI는 코드명 '아스트라(Astra)'로 알려진 차세대 모델이 고급 코딩 및 해킹 기술을 선보여 내부 '치명적(Critical)' 위험 기준을 넘어설 수 있다고 발표했다. OpenAI의 자체 안전 프레임워크에 따르면, AI 시스템이 인간의 지시 없이 독립적으로 '제로데이(zero-day)' 소프트웨어 취약점을 발견하거나 보안 네트워크에 대한 전방위적 공격을 개시할 수 있을 때 이 등급으로 분류된다.

이전 세대 모델인 GPT-5.6-Sol이 '높음(High)' 위험 등급에 머물렀던 것과 비교하면, 이는 AI 능력의 중대한 도약을 의미한다. 이러한 잠재적 위험에 대응하여 OpenAI는 아스트라의 개발을 보안이 대폭 강화된 격리된 환경으로 제한하고 있다.

강화된 안전 조치 도입

OpenAI는 이번 역량 급증에 대응하기 위해 여러 단계의 보안 강화 조치를 시행하고 있다. 여기에는 다음이 포함된다.

Sample IUX Markets – In-articleAd
  • 워크플로우 중단: 엄격한 보안 통제가 없는 내부 개발 워크플로우는 일시 중단되었다.
  • 실시간 차단: 모델의 근본적인 추론 단계를 추적하여 의도에서 벗어나거나 위험한 행동을 즉시 차단하는 새로운 자동 모니터링 시스템이 도입될 예정이다.
  • 외부 감사: 정부 기관 및 제3자 안전 기관을 참여시켜 모델에 대한 스트레스 테스트를 진행할 계획이다.

AI 개발 경쟁과 안전성 딜레마

이번 개발 중단 조치는 강력한 AI를 상용화하려는 실리콘밸리의 치열한 경쟁과 이를 안전하게 통제해야 한다는 당위성 사이의 고조되는 긴장을 잘 보여준다. 투자자들과 규제 당국은 AI 기술의 잠재적 위험성에 대해 점점 더 주목하고 있다.

OpenAI는 아스트라 모델이 아직 출시되지 않았으며, 최근 허깅페이스(Hugging Face) 해킹 사건 등 세간의 이목을 끈 AI 보안 침해와는 관련이 없다고 선을 그었다. 회사는 이번 조치가 위험한 기능이 대중이나 기업 고객에게 배포되기 전에 이를 포착하는 내부 안전 장치가 의도대로 작동하고 있다는 증거라고 설명했다.

Back to latest news

LATEST