앤스로픽 前 직원, "일부 동료, AI 파국적 위험 확률 50% 이상으로 봐"

유명 AI 스타트업 앤스로픽(Anthropic)의 전직 연구원이 일부 동료들이 인공지능(AI)으로 인한 파국적 결과가 발생할 확률을 50% 이상으로 보고 있다고 주장해 업계에 파장을 일으키고 있다. 디 인포메이션(The Information) 보도에 따르면, 제이콥 콕슨 전 연구원은 AI 안전에 대한 우려로 최근 회사를 떠났다고 공개적으로 밝혔다.

내부 우려와 퇴사 배경

오픈AI(OpenAI) 출신으로 앤스로픽에서 초기 AI 모델 훈련을 담당했던 콕슨은 디 인포메이션과의 인터뷰에서 "상당한 수준의 조직적인 속도 조절이 없다면" 재앙적 시나리오가 발생할 수 있다는 내부 추정이 존재한다고 말했다. 그는 앤스로픽이 오픈AI보다 "상당히 더 투명한 내부 문화"를 가지고 있어 이러한 견해를 파악할 수 있었다고 덧붙였다.

콕슨은 "향후 1~2년 내 기술이 도달할 수준에 대해 본능적인 두려움을 느끼기 시작했다"며 퇴사 이유를 설명했다. 특히 그는 AI 모델이 새로운 AI 시스템 개발을 자동화하는 '재귀적 자기 개선(recursive self-improvement)' 기술 발전에 대한 깊은 우려를 표명했다.

기술적 위험과 시장에 미치는 영향

Ad

콕슨은 "내년의 AI 시스템은 내 직업 전체를 거의 완벽하게 수행할 수 있을 것"이라고 예측하며 기술 발전 속도에 경고를 보냈다. 공교롭게도 앤스로픽 역시 재귀적 자기 개선의 위험성을 인정한 바 있다. 회사는 의도치 않은 목표를 가진 모델이 후속 모델을 만들면서 통제 불능 상태에 빠질 수 있다고 경고한 바 있다.

이러한 내부자의 폭로는 AI 산업의 성장 서사에 잠재적인 위험 요소를 부각시킨다. 투자자 입장에서 이는 핵심 인력의 이탈로 이어질 수 있는 '인재 리스크'이자, 기술 안전성에 대한 논란을 증폭시키는 '평판 리스크'로 작용할 수 있다. AI 안전을 둘러싼 내부 갈등이 심화될 경우, 향후 기술 개발 속도 저하 또는 강력한 규제 도입의 촉매제가 될 수 있다는 분석이 나온다.

국제적 공조 요구

콕슨은 오픈소스 AI 허브인 허깅페이스(Hugging Face) 해킹 사건 역시 자신의 우려를 키웠다고 언급했다. 그는 AI 위험에 대응하기 위해 국제적인 공조를 통해 "개발 속도를 늦출 필요가 있다"고 강조하며, 특히 미국과 중국 간의 협력이 어려울 수 있다는 점을 지적했다.