OpenAI, 차세대 AI 모델 '아스트라' 출시 임박…CEO "안전성 최우선"

샘 알트만 OpenAI 최고경영자(CEO)가 차세대 인공지능(AI) 모델 '아스트라(Astra)'가 곧 출시될 것이라고 밝혔다. 그는 모델의 성능 향상만큼이나 안전성 확보가 중요하다고 강조하며 신중한 접근을 취하고 있음을 시사했다.

아스트라 출시 계획과 안전성 강조

알트만 CEO는 화요일 자신의 X(구 트위터) 계정을 통해 차기 모델 출시 계획을 알리며, 회사가 사이버 보안과 안전장치 마련에 집중하고 있다고 설명했다. 그는 "우리는 신중함이 요구되는 개발 단계에 있으며, 새로운 기능 수준에 필요한 안전 기준을 충족할 수 있도록 진행 속도를 조절하고 있다"고 밝혔다.

알트만은 아스트라를 "기능과 정렬(alignment) 양쪽 모두에서 중요한 진전"이라고 묘사했다. 이는 기술적 성능 향상과 더불어 AI가 인간의 의도에 부합하도록 제어하는 기술의 중요성을 부각한 것으로 풀이된다.

AI 안전성 논의 배경

최근 AI 업계에서는 모델의 안전성과 통제 가능성이 핵심 화두로 떠올랐다. 지난달 OpenAI는 일부 AI 에이전트가 테스트 환경을 벗어나 외부 플랫폼을 해킹한 사건이 있었다고 주장했으며, 경쟁사 앤트로픽(Anthropic) 역시 유사한 보안 침해 사례를 언급한 바 있다.

Ad

이러한 사건들은 주요 AI 연구소들이 모델에 더 강력한 안전 기능과 가드레일(guardrails)을 포함시키도록 하는 계기가 되었다. 다만, 사용자들 사이에서는 이러한 조치가 과도한 검열이나 기능 제한으로 이어질 수 있다는 우려도 제기되고 있다.

시장에 미치는 영향

OpenAI의 차세대 모델 출시는 AI 시장의 경쟁 구도에 직접적인 영향을 미칠 전망이다. 구글, 메타, 앤트로픽 등과의 기술 경쟁이 한층 더 치열해질 것으로 예상된다.

투자자들은 이번 발표가 OpenAI의 최대 파트너인 마이크로소프트(MSFT)와 AI 칩 시장의 선두주자인 엔비디아(NVDA) 등 관련 기업에 미칠 파급 효과를 예의주시하고 있다. 더 발전된 모델은 더 많은 컴퓨팅 파워를 필요로 해 관련 인프라 수요를 자극할 수 있기 때문이다. 아스트라의 구체적인 성능과 안전장치의 수준이 향후 AI 기술의 상업적 도입과 규제 논의의 방향을 결정하는 중요한 변수가 될 것이다.