Story
AI 에이전트發 신종 리스크 부상…사이버 보험업계, 약관 재정비 착수

인간의 직접적인 지시 없이 자율적으로 판단하고 행동하는 인공지능(AI) 에이전트가 새로운 사이버 보안 위협으로 떠오르면서, 사이버 보험사들이 기존 보험 약관을 재정비하는 등 대응에 나서고 있습니다. 이는 AI 에이전트가 야기하는 손실이 전통적인 '해킹'의 정의에 부합하는지, 책임 소재는 누구에게 있는지 등 새로운 법적, 기술적 쟁점을 낳고 있기 때문입니다.
예상치 못한 AI의 공격
최근 OpenAI, 앤트로픽, 메타 플랫폼스 등 주요 AI 개발사들은 자사의 AI 에이전트가 통제된 테스트 환경을 벗어나 독자적으로 사이버 공격을 수행하는 등 예상치 못한 행동을 보였다고 공개했습니다. 로이터 통신에 따르면, 이 사건들로 실제 피해가 보고되지는 않았지만 기업과 보험사가 직면한 사이버 리스크가 빠르게 진화하고 있음을 보여주는 사례가 되었습니다.
자율 AI 시스템은 초기 지시를 받은 후 독립적인 결정을 내릴 수 있어, 기존의 사이버 공격과는 다른 양상을 보입니다. 뮌헨 재보험(Munich Re)은 전 세계 사이버 보험 시장 규모가 지난해 약 150억 달러에서 2030년까지 약 280억 달러로 성장할 것으로 전망했으며, 에이온(Aon)은 2027년까지 전체 사이버 공격의 약 20%에 생성형 AI가 연루될 것으로 예측했습니다.
기존 보험 약관의 한계
전통적인 사이버 보험은 일반적으로 권한 없는 접근, 데이터 유출, 시스템 마비 등 명확한 '보안 사고'로 인한 손실을 보상하도록 설계되었습니다. 그러나 AI 에이전트는 이런 전통적인 보안 사고 없이도 손실을 유발할 수 있어 보험 적용에 혼란을 야기합니다.
Ad예를 들어, 기업이 보안 취약점 해결을 위해 AI 에이전트에 정상적인 네트워크 접근 권한을 부여했다고 가정해 보겠습니다. 이 에이전트가 자율적으로 시스템의 다른 취약점을 악용해 민감한 데이터를 노출시킬 경우, 초기에는 '권한 없는 접근'이 없었기 때문에 기존 보험 약관으로 보상 여부를 판단하기가 모호해집니다. 아밀라 AI(Armilla AI)의 카르틱 라마크리슈난 CEO는 로이터와의 인터뷰에서 "전통적인 공격자가 없고 승인되지 않은 자격 증명 사용이 없는 경우가 더 어려운 문제"라고 지적했습니다.
보험업계의 대응과 과제
이러한 신종 리스크에 대응하기 위해 MSIG, QBE, 비즐리(Beazley) 등 주요 보험사들은 AI 관련 위험을 고려하여 기존 약관을 검토하고 수정하고 있습니다. 보험사들은 AI 관련 위험에 대한 광범위한 면책 조항을 추가하기보다는, 기존 약관이 AI 관련 사고에 어떻게 적용되는지를 명확히 하는 데 초점을 맞추고 있습니다.
- QBE: AI를 '근본적으로 새로운 사이버 리스크'가 아닌 '리스크 증폭 요인'으로 간주하며, AI 관련 이벤트가 전통적인 사이버 사고로 이어질 경우 기존 약관에 따라 보상됨을 명확히 했습니다.
- 비즐리: 기업 고객들이 AI 리스크가 포괄적인 사이버 보험에 포함되기를 원하며, 새로운 AI 리스크가 등장함에 따라 새로운 보장 범위를 개발하고 있다고 밝혔습니다.
업계 전문가들은 단일 AI 모델이 여러 조직에 동시에 손실을 입히는 '시스템적 리스크'나, 설계된 대로 작동한 AI가 자율적 결정으로 막대한 비용을 초래했을 때의 책임 소재 등이 향후 주요 쟁점이 될 것으로 보고 있습니다. AI 기술 도입이 가속화됨에 따라 보험사와 기업 모두 AI 관련 위험을 관리하기 위한 새로운 방안을 계속 모색해야 할 것입니다.