글로벌 은행들이 AI 쇼핑 에이전트가 심각한 사기 및 데이터 위험을 초래할 수 있다고 경고했습니다.

뱅크 오브 아메리카, 냇웨스트, 캐피털 원을 포함한 주요 글로벌 은행들은 화요일, 온라인 쇼핑에 인공지능(AI) 에이전트 사용이 증가함에 따라 사기, 부정행위, 개인정보 유출 위험이 크게 증가할 수 있다고 경고했습니다. 공동 보고서에서 이들 금융기관은 기술의 급속한 발전에 발맞춰 업계 표준과 소비자 보호 조치가 마련되어야 한다고 촉구했습니다.

'에이전트 커머스'의 주요 위험

은행들은 AI 챗봇이 사용자를 대신하여 상품을 선택하고 구매하는 '에이전트 커머스'의 증가세를 강조했습니다. 이는 구글, 메타, 오픈AI와 같은 기술 기업들이 점점 더 적극적으로 홍보하는 기능입니다. 보고서는 소비자들이 이러한 편리함에 열광하는 것은 인정하지만, 기술 발전 속도가 필요한 안전장치 개발 속도를 앞지르고 있다고 지적했습니다.

보고서에 따르면, 소비자들은 AI 에이전트가 자신에게 최선의 이익이 되지 않을 수 있다는 우려를 갖고 있습니다. 주요 위험 요소는 다음과 같습니다.

• AI 에이전트가 고객의 카드 정보를 요구하고 웹사이트에 직접 입력하는 경우
• 소비자 보호가 취약한 결제 방식을 사용자에게 유도하는 경우
• 봇이 잘못된 상품을 구매하거나, 과소비를 하거나, 사기 피해를 당할 가능성.
• 거래 오류 발생 시 책임 소재가 불분명함.

업계 표준 마련 촉구

Ad

ING, 호주 커먼웰스 은행, 뉴질랜드 ASB 은행 등이 참여하는 이 연합은 정책 입안자들과 협력하여 명확한 가이드라인을 수립할 계획입니다. 이들은 AI 기반 전자상거래의 안전한 발전을 위한 몇 가지 원칙을 제안하고 있습니다.

제안 내용에는 AI 에이전트가 거래에 관여할 경우 명확한 정보 공개 의무화, AI 에이전트의 의사결정 과정에 대한 투명성 제고, 고객 데이터 보호를 위한 강력한 안전장치 마련 등이 포함됩니다. 은행들은 또한 소비자와 판매자가 원하는 AI 서비스를 자유롭게 선택할 수 있어야 하며, 다양한 시스템 간의 상호 운용성이 보장되어야 한다고 강조했습니다.

시장 상황

은행들의 이러한 경고는 소매업 분야에서 AI 활용이 가속화되고 있는 시점에 나왔습니다. 보고서는 이러한 추세의 한 예로 영국 소매업체 존 루이스(John Lewis)의 AI 에이전트 기반 제품 검색이 1년 전 0.3%에서 2.5%로 증가했다고 언급했습니다. 금융 부문의 이러한 적극적인 규제 요구는 AI를 디지털 상거래의 모든 측면에 통합하려는 기술 기업들과의 잠재적 마찰 지점을 시사합니다.