Story
팔란티어·엔비디아, 데이터 유출 우려에 앤스로픽·오픈AI 모델 사용 제한
Summary
데이터 분석 기업 팔란티어와 반도체 기업 엔비디아 등 주요 기술 기업들이 지적 재산권 및 데이터 오용에 대한 우려로 앤스로픽과 오픈AI의 첨단 AI 모델 사용을 제한하고 있는 것으로 나타났다.
데이터 분석 기업 팔란티어와 반도체 기업 엔비디아를 포함한 주요 기술 기업들이 지적 재산권(IP) 및 민감 데이터 오용 가능성에 대한 우려로 앤스로픽, 오픈AI 등 외부의 첨단 인공지능(AI) 모델 사용을 제한하고 있다고 IT 전문 매체 디 인포메이션이 보도했다. 이는 기업 고객과 AI 모델 제공사 간 데이터 거버넌스를 둘러싼 신뢰 문제가 업계의 주요 현안으로 부상하고 있음을 시사한다.
기업들의 구체적 조치
보도에 따르면 각 기업들은 데이터 보안을 강화하기 위해 구체적인 조치를 취하고 있다. 이는 AI 도입을 고려하는 기업들에게 중요한 선례가 될 수 있다.
- 팔란티어 (Palantir): 앤스로픽 측에 '철회 불가능한 제로-데이터-보존(irrevocable zero-data-retention)' 보장을 제공할 것을 압박하고 있으며, 이 조건이 충족되기 전까지 자사 소프트웨어를 통한 모델 제공을 보류하고 있다.
- 엔비디아 (Nvidia): 앤스로픽 모델의 사용을 덜 민감한 업무에 국한하고 있으며, 내부 중요 작업에는 자체 개발한 '네모트론(Nemotron)' 모델을 활용하고 있다.
- 부즈 앨런 해밀턴 (Booz Allen Hamilton): 독점적인 사이버 보안 관련 업무에 직원들이 앤스로픽의 상용 모델을 사용하는 것을 금지했다.
배경: 데이터 정책과 고객 불신
이러한 움직임의 배경에는 AI 모델 제공사들의 데이터 처리 정책에 대한 기업 고객들의 깊은 불신이 자리 잡고 있다. 앤스로픽은 지난 6월 자사 '페이블(Fable)' 모델의 사용 기록을 30일간 보관하는 정책 변경으로 고객들의 반발을 샀으며, 오픈AI 역시 과거 사용자 데이터를 모델 훈련에 사용했을 수 있다는 의혹에 휩싸인 바 있다.
Ad물론 앤스로픽과 오픈AI 양측 모두 기업이 명시적으로 동의(opt-in)하지 않는 한 고객 데이터를 모델 훈련에 사용하지 않는다고 주장한다. 하지만 제품 개선을 위해 익명화된 메타데이터를 수집한다고 밝히고 있어, 기업들의 우려는 완전히 해소되지 않고 있다.
시장에 미치는 영향
기업들의 이러한 데이터 주권 확보 움직임은 AI 시장의 경쟁 구도에 변화를 가져올 수 있다. 특히 마이크로소프트는 이러한 우려를 기회로 삼아, 자사의 격리된 클라우드 환경과 자체 AI 서비스를 대안으로 제시하며 고객 유치에 적극적으로 나서고 있는 것으로 알려졌다.
이번 사안은 향후 기업들이 범용 상용 AI 모델을 그대로 사용하기보다, 자체 모델을 개발하거나(엔비디아 사례) 더욱 강력한 데이터 보호를 보장하는 프라이빗 AI 솔루션을 선호하게 될 가능성을 보여준다. 투자자들은 AI 기술 도입에 있어 데이터 보안 및 거버넌스가 핵심적인 의사결정 요인으로 작용하고 있음을 주목할 필요가 있다.