Story
OpenAI 알트먼, AI 개발 속도 조절 검토...안전성 우려 심화
샘 알트먼 오픈AI(OpenAI) 최고경영자(CEO)가 고도화되는 인공지능(AI) 시스템의 안전성에 대한 우려가 커지자 최첨단 AI 개발 속도를 늦추는 방안을 고려하고 있다고 블룸버그 통신이 보도했다. 이 논의에는 다른 주요 AI 연구소와의 자발적인 협력 가능성도 포함된 것으로 전해졌다.
블룸버그는 사안에 정통한 소식통을 인용하여, 알트먼 CEO가 최근 열린 전사 회의에서 이 같은 가능성을 논의했다고 밝혔다. 여러 AI 기업이 자발적으로 개발 속도를 조절하는 방안이 거론되었으나, 일부 연구소는 이에 동의하지 않을 수도 있는 상황이다.
고조되는 안전성 우려
이번 논의는 AI 업계 전반에 걸쳐 안전성 문제가 주요 화두로 떠오른 가운데 나왔다. 최근 야쿱 파코키 OpenAI 수석 과학자는 공통된 안전 표준이 마련될 때까지 자발적으로 개발 속도를 늦춰야 한다고 주장하며, 어떤 기업도 AI 시스템의 발전 속도를 안전 역량이 따라잡을 수 있다고 장담할 수 없다고 경고했다.
OpenAI는 이미 개발 속도를 늦추기 위한 일부 조치를 시행한 바 있다. 지난 8월, 회사는 AI 에이전트와 허깅페이스(Hugging Face) 관련 사고 이후 보안 및 모니터링 강화를 위해 최신 모델에 대한 강화학습 훈련을 2주간 중단했다고 밝혔다. 가장 큰 규모로 계획되었던 프론티어 강화학습 실행 역시 추가 테스트를 위해 보류 중이다. 앤트로픽(Anthropic)과 구글 딥마인드(Google DeepMind)의 연구원들 또한 AI 개발 속도에 대한 우려를 공개적으로 표명해왔다.
Ad시장 및 규제 환경에 미칠 영향
AI 안전성 논쟁은 규제 당국의 감시 강화로도 이어지고 있다. 미국 상원은 현재 허깅페이스 데이터 유출 사건에 대한 OpenAI의 처리 방식을 조사 중이다. 이러한 움직임은 투자자들의 관심이 집중된 가운데 이루어지고 있다.
특히 OpenAI와 앤트로픽이 기업공개(IPO)를 준비하면서, 투자자들은 빠른 AI 기술 발전이 가져올 상업적 가치와 고도화된 시스템 개발에 따르는 비용 및 위험 사이의 균형을 어떻게 맞출 것인지 예의주시하고 있다. 한편, OpenAI는 의회에 독립적인 평가, 사이버 보안 조치, 사고 보고 등을 포함하는 의무적인 국가 AI 안전 요건을 수립할 것을 촉구해왔다.