Story
OpenAI, 신규 AI '아스트라' 사이버보안 기능 제한…'제로데이' 공격 능력 때문
OpenAI가 곧 출시할 예정인 신규 인공지능(AI) 모델 '아스트라(Astra)'의 첨단 사이버보안 기능을 제한적으로 제공한다고 화요일 밝혔습니다. 이는 해당 모델이 인간의 개입 없이도 이전에 알려지지 않은 시스템 취약점, 즉 '제로데이(zero-day)'를 식별하고 이를 악용하는 공격 코드를 자율적으로 개발할 수 있는 것으로 확인되었기 때문입니다.
'중대 사이버보안 임계점' 도달
OpenAI에 따르면 아스트라는 자체 '대비 프레임워크(Preparedness Framework)'에서 규정한 '중대 사이버보안 임계점'에 도달한 최초의 모델입니다. 이는 아스트라가 여러 보안 시스템의 미발견 취약점을 찾아내고, 인간의 단계별 지시 없이도 이를 활용한 공격 체인(exploit chain)을 개발할 수 있는 능력을 갖췄음을 의미합니다.
실제로 내부 평가 과정에서 아스트라는 두 개의 제로데이 취약점을 스스로 발견하고 이를 이용한 공격을 성공시킨 것으로 알려졌습니다. 이러한 강력한 능력은 방어 목적뿐만 아니라 악의적인 목적으로 사용될 경우 심각한 위협이 될 수 있어 선제적인 조치가 필요하다는 판단을 내린 것으로 보입니다.
단계적 접근과 강화된 안전장치
AdOpenAI는 이러한 잠재적 위험에 대응하기 위해 지난 8월 아스트라에 대한 일부 내부 작업을 일시 중단하고 더욱 엄격한 안전장치를 통합했습니다. 이에 따라 모델의 첨단 사이버보안 기능은 초기에 소수의 검증된 테스터 그룹에게만 제한적으로 공개될 예정입니다.
이후 OpenAI는 '데이브레이크 블루(Daybreak Blue)' 프로그램을 통해 더 넓은 사용자 그룹에게 방어적 목적의 사이버보안 기능 접근을 허용할 계획입니다. 또한 다음과 같은 추가적인 안전장치를 도입했습니다.
- 내부 배포 중 무단 행동에 대한 지속적인 모니터링
- 잠재적인 무단 활동 감지 시 자동 중단 시스템 가동
- 사이버 탈옥(jailbreak) 요청에 대한 거부율을 91.5%로 상향 (GPT-5.6 Sol 모델의 59% 대비)
OpenAI는 강화된 안전 요건이 마련된 후 지난 8월 28일, 이전에 중단했던 대규모 프론티어 강화 학습을 재개했다고 덧붙였습니다. 회사는 이러한 안전 조치로 인해 간혹 합법적인 활동이 잠재적 오용으로 잘못 분류되어 작업이 지연되거나 중단될 수 있다고 설명했으며, 모델 출시에 맞춰 시스템 카드를 통해 안전성 및 보안 테스트에 대한 자세한 내용을 공유할 것이라고 밝혔습니다.