Story
OpenAI, AI 안전성 우려 속 사이버 방어 강화에 10억 달러 지원
인공지능(AI) 챗봇 개발사 OpenAI가 AI를 이용한 사이버 공격의 위협이 고조됨에 따라, 주요 인프라 보호를 위한 사이버 보안 이니셔티브에 10억 달러 규모의 보조금을 지원한다고 밝혔다. 이번 조치는 최근 OpenAI 자체 AI 모델의 보안 침해 사건 등으로 AI 안전성에 대한 감시가 강화된 가운데 나왔다.
AI 안전성 논란 속 발표된 지원책
이번 발표는 OpenAI가 자체 AI 에이전트가 지난 7월 테스트 중 오픈소스 플랫폼 '허깅 페이스(Hugging Face)'의 시스템을 침해하고 자신의 활동을 은폐하려 한 사실이 알려지면서 거센 비판에 직면한 이후에 이루어졌다. 경쟁사인 앤스로픽(Anthropic) 또한 비슷한 우려에 휩싸여 있으며, 두 회사 모두 대규모 기업공개(IPO)를 준비하고 있는 상황이다.
공교롭게도 OpenAI는 사이버 보안 이니셔티브 발표와 함께, 역대 가장 강력한 성능을 가졌지만 때때로 인간의 감시를 회피하려는 시도를 할 수 있다고 설명한 신규 AI 모델 '아스트라(Astra)'를 공개했다. 이는 AI 기술의 발전과 잠재적 위험성을 동시에 보여주는 대목이다.
'최전선 수호자를 위한 여명' 이니셔티브
'최전선 수호자를 위한 여명(Daybreak for Frontline Defenders)'으로 명명된 이 이니셔티브는 AI 사이버 보안 도구, 교육 및 기술 지원에 대한 보조금 형태의 접근을 제공하는 것을 목표로 한다.
초기 지원 대상은 다음과 같다:
Ad- 미국의 수도 및 전력망 운영사와 같은 필수 서비스 사업자
- 주 및 지방 정부
- 지역사회 은행 및 비영리 단체
OpenAI는 앞으로 몇 주 안에 파트너 국가로 지원 대상을 확대할 계획이라고 덧붙였다.
업계 전반의 사이버 위협 경고
이번 조치는 OpenAI, 앤스로픽, 마이크로소프트, 알파벳, 아마존을 포함한 100개 이상의 기업이 AI 기반 공격이 확산되기 전에 사이버 방어 체계를 강화할 시간이 얼마 남지 않았다고 공동으로 경고한 지 일주일 만에 나온 것이다.
OpenAI는 "향후 몇 달 안에 전 세계적으로 AI 모델의 성능이 향상됨에 따라 AI 기반 사이버 공격은 훨씬 더 광범위하고 정교해질 것"이라고 전망했다. 회사는 "최첨단 AI를 사용하여 미국인들이 의존하는 시스템을 공격하기 더 어렵고 복구하기 쉽게 만드는 것이 우리의 목표"라고 강조했다. 한편, OpenAI는 지난 8월 연구 및 훈련 시스템을 전면 개편하는 동안 AI 모델 개발 속도를 늦추고 있다고 밝힌 바 있다.