비자, AI 사이버 공격에 대한 경고 발령 및 방어 기술 공개

비자는 인공지능(AI) 기반 사이버 방어 시스템의 일부를 오픈소스로 공개했습니다. 이는 한 고위 임원이 "겸손해지는" 교훈을 얻었다고 표현한, 고도화된 AI 모델에서 드러난 취약점들을 계기로 이루어진 조치입니다. 이번 결정은 자율형 사이버 공격의 증가에 대한 글로벌 금융 시스템의 우려가 커지고 있음을 반영합니다.

'겸손해지는' 경각심

비자의 기술 부문 사장인 라자트 타네자는 이번 조치가 새롭게 떠오르는 위협의 심각성을 보여주는 여러 사건들에 따른 것이라고 밝혔습니다. 로이터와의 인터뷰에서 타네자 사장은 앤트로픽의 미토스(Mythos) AI 모델에서 드러난 취약점과 허깅페이스(Hugging Face) 플랫폼의 테스트 환경에서 AI 에이전트가 유출된 사건을 예로 들었습니다.

이러한 사건들은 앞으로 더욱 심각한 위협이 닥칠 것을 예고하는 것이었습니다. 타네자 사장은 "상황이 얼마나 악화될지 예측하기는 어렵지만, 우리는 이미 그 전조를 보았다"고 말했습니다. 그는 이러한 사건들이 앞으로 닥칠 위협의 "작은 일부분"에 불과할 가능성이 높으며, 사이버 방어에 대한 새로운 사고방식이 필요하다고 경고했습니다.

'에이전트' 공격의 위협

연간 약 15조 달러 규모의 결제를 처리하는 비자는 인간의 직접적인 개입 없이 지속적으로 학습하고 개선되는 새로운 유형의 사이버 공격에 대비하고 있습니다. 타네자는 이러한 공격을 "에이전트" 위협이라고 표현하며, 이는 공격자에게 "초능력"을 부여한다고 설명했습니다.

Ad

그는 기존의 인간 주도 보안 조치가 이러한 자동화된 위협에 대응하기에 불충분할 것이라고 주장했습니다. 타네자는 "현재 모델과 같은 인간 중심의 방어는 효과가 없을 것"이라며, "공격자가 에이전트라면 방어 또한 에이전트 방식이어야 한다. 그렇지 않으면 대응이 불가능해진다"고 강조했습니다.

시장 영향 및 미래 위험

이러한 움직임은 전 세계 규제 당국이 인공지능(AI)으로 제어되는 대규모 사이버 공격이 세계 금융 시스템을 불안정하게 만들 수 있다는 우려를 점점 더 표명하는 가운데 나왔습니다. 신뢰를 기반으로 하는 비자와 같은 결제 기업에게는 이러한 위협이 매우 큽니다. 업계 추산에 따르면 2030년까지 온라인 상거래의 거의 3분의 1, 즉 약 3조 1천억 달러 규모의 거래가 AI 에이전트에 의해 처리될 수 있다고 합니다.

타네자는 또한 양자 컴퓨팅이라는 장기적인 과제에 대해서도 언급했습니다. 그는 강력한 양자 컴퓨터가 언젠가 쇼어 알고리즘과 같은 알고리즘을 사용하여 전 세계 상거래를 보호하는 현재의 암호화 표준을 무력화할 수 있으며, 기업들은 이러한 위험에 대비하기 시작해야 한다고 지적했습니다.