미, 중국 AI 기업 제재 경고...글로벌 AI 안전 논의 '빨간불'

미국이 중국의 인공지능(AI) 개발사에 대한 제재 가능성을 경고하면서, AI 안전성 확보를 위한 양국 간의 중요한 대화 노력이 좌초될 위기에 처했습니다. 이번 갈등은 AI 기술이 점차 고도화됨에 따라 발생할 수 있는 심각한 안보 위협에 대한 국제적 공조의 필요성이 커지는 가운데 불거졌습니다.

미, '기술 탈취' 주장하며 제재 경고

로이터 통신에 따르면, 미 재무부 스콧 베센트 장관은 중국 AI 연구소 문샷(Moonshot)이 앤트로픽(Anthropic)의 최신 모델인 '페이블 5(Fable 5)'를 기반으로 자사의 '키미 K3(Kimi K3)' 모델을 개발했다는 의혹을 제기하며 제재 가능성을 시사했습니다. 이는 '증류(distillation)'라 불리는 기법으로, 더 발전된 모델의 결과물을 활용해 저비용으로 고성능 AI를 훈련시키는 방식입니다.

미 상무부 산업안보국(BIS) 또한 문샷과 같은 중국 기업들이 미국의 첨단 반도체에 불법적으로 접근해 모델을 훈련시키고 있는지에 대해 조사 중인 것으로 알려졌습니다. 이러한 미국의 움직임은 프런티어 AI를 전략적 자산이자 안보 위협으로 간주하는 양국의 시각 차이를 드러내고 있습니다.

AI 안전 협력 무산 위기

이번 미국의 제재 위협은 오는 9월로 예정된 미중 AI 대화에 직접적인 타격을 줄 수 있다는 분석이 나옵니다. DGA-올브라이트 스톤브리지 그룹의 파트너인 폴 트리올로는 "제재 대상이 되는 중국 기업의 수와 징벌적 조치의 성격에 따라 중국의 보복이 AI 대화 자체를 무산시킬 가능성이 있다"고 전망했습니다.

이러한 긴장감은 중국의 첨단 반도체 접근을 막기 위한 미국의 수년간에 걸친 수출 통제 조치 위에 더해지고 있습니다. 이에 맞서 중국 또한 보복 조치로 자국 AI 모델에 대한 해외 사용자의 접근을 제한하는 방안을 검토 중인 것으로 전해졌습니다.

Ad

'오픈소스 모델' 리스크 부상

전문가들은 AI 모델이 사이버 공격이나 다른 유해한 목적으로 오용될 가능성이 커짐에 따라 안전 기준에 대한 협력이 시급하다고 지적합니다. 특히 누구나 다운로드하여 수정 및 재배포가 가능한 오픈 가중치 모델(open-weight models)은 소프트웨어 기반의 수출 통제 효과를 제한하여 새로운 위험 요소로 떠오르고 있습니다.

'AI의 대부'로 불리는 요슈아 벤지오 교수는 최근 한 포럼에서 "오픈 가중치 모델의 배포 및 공유 결정은 되돌릴 수 없으며, 안전장치를 제거하기가 더 쉽다"고 경고했습니다. 이는 위험도에 따라 모델 공유 여부를 신중히 결정해야 한다는 의미로 해석됩니다.

양국의 입장과 과제

현재 양국의 AI 개발 환경과 규제 접근 방식에는 차이가 있습니다. OpenAI나 앤트로픽과 같은 미국 기업들은 막대한 컴퓨팅 자원을 바탕으로 광범위한 안전성 훈련을 진행하는 반면, 다수의 중국 연구소는 모델 성능 개선에 더 집중하는 경향이 있습니다.

미국 내에서도 중국 AI 모델에 대한 대응을 두고 의견이 엇갈립니다. OpenAI 등 일부 기업은 저비용 중국 모델이 자사 비즈니스 모델을 위협할 수 있다며 규제를 로비하는 반면, 데이비드 색스 백악관 AI 고문 등은 불필요한 규제 없이 공정한 경쟁을 통해 미국이 우위를 지킬 수 있다고 주장하고 있습니다. 전문가들은 이상적으로는 양국이 공동으로 안전 기준을 마련하고, 최첨단 개방형 모델에 대한 명확한 레드라인을 설정해야 한다고 조언합니다.