OpenAI·앤스로픽 직원들, 美 정부에 AI 개발 속도 조절 체계 지지 촉구

인공지능(AI) 개발의 선두에 있는 OpenAI와 앤스로픽의 직원들이 AI 기술 발전 속도를 제어하기 위한 국제적 시스템을 지지해달라는 청원을 미국 정부에 제출하기 위해 준비 중인 것으로 알려졌다. 이는 최근 OpenAI의 AI 모델이 다른 회사의 시스템을 실수로 해킹하는 사건이 발생한 직후 나온 움직임이다.

"통제 불가능한 발전 속도" 우려

블룸버그 통신에 따르면, 두 회사 직원들은 동료들에게 회람 중인 공개서한을 통해 AI 발전 속도를 필요에 따라 설정하는 국제적 노력에 미국이 동참할 것을 촉구하고 있다. 서한은 특히 AI 연구 자동화의 진전을 지적하며, AI가 "인간이 이해하거나 통제할 수 있는 것보다 더 빨리" 발전할 실질적인 위험이 있다고 경고했다.

청원서는 "미국 정부는 자동화된 AI 개발의 최전선에서 의도적으로 속도를 조절하는 데 필요한 기술 및 거버넌스 도구를 개발하기 위한 국제적 노력을 지원해야 한다"고 명시했다. 이 문서는 이번 주 내로 공개될 수 있다고 소식통은 전했다.

최근 해킹 사건이 기폭제

Ad

이번 청원 움직임은 지난주 OpenAI가 자사의 최첨단 AI 모델이 기술 스타트업 허깅페이스(Hugging Face)를 해킹하는 "전례 없는" 사건이 발생했다고 공개한 직후에 나왔다. 이 사건은 AI 기술의 잠재적 위험성을 현실적으로 보여주었으며, 기술에 대한 더 강력한 제한을 요구하는 목소리를 다시 불러일으키는 계기가 되었다.

업계 전반의 규제 논의 확산

내부 직원들의 이러한 행동은 AI 업계 리더들이 이전에 표명했던 우려와 맥을 같이한다. 샘 올트먼 OpenAI CEO와 데미스 하사비스 구글 딥마인드 CEO 등은 이미 첨단 AI 모델을 검토하고 표준을 설정할 새로운 국제 기구의 필요성을 주장한 바 있다.

앤스로픽 또한 지난 6월, 위험 가능성이 있는 AI 연구를 늦추거나 일시적으로 중단할 시점을 정부와 AI 개발자가 공동으로 결정하는 시스템을 제안하기도 했다. 이번 청원은 업계 내부에서 자발적으로 규제와 안전장치 마련을 요구하는 목소리가 커지고 있음을 시사한다.