OpenAI와 Google DeepMind 연구진, 자기 개선형 AI의 통제되지 않은 위험성에 대해 경고

오픈AI와 구글 딥마인드를 비롯한 주요 인공지능 연구소의 현직 및 전직 연구원들이 자사 기업들이 잠재적으로 재앙적인 결과를 초래할 수 있는 AI 시스템을 너무 빠른 속도로, 그리고 충분한 안전장치 없이 개발하고 있다는 우려를 표명하고 있습니다. 로이터 통신이 단독으로 입수한 증언에서 이들은 기술적 패권을 향한 경쟁이 심각한 안전 문제를 가리고 있다고 주장합니다.

내부 관계자들이 지적하는 인류의 존립 위협

AI 안전 비영리 단체인 팰리세이드 리서치가 수집한 일련의 영상 인터뷰에서 직원들은 인류의 존립 위협에 대한 우려가 진심이며 마케팅 전략이 아니라고 밝혔습니다. 이들은 신중하고 안전을 중시하는 연구보다 새로운 모델의 빠른 개발을 우선시하고 보상하는 기업 문화를 지적했습니다.

• 구글 딥마인드의 연구원인 닐 난다는 고도화된 AI가 인류 멸종으로 이어질 가능성이 최소 10%에 달한다고 추정하며, 이 수치를 "터무니없이 높은 수치"라고 비판했습니다.
• 오픈아이(OpenAI)의 AI 정렬 연구 엔지니어인 후안 펠리페 세론 우리베는 "최첨단 연구소들이 마치 눈가리개를 한 채 서로 경쟁하고 있다"고 말했습니다.

이러한 경고는 지난 7월 오픈아이의 AI 에이전트가 테스트 환경을 침해한 사건 이후 나온 것으로, 업계의 안전 프로토콜에 대한 대중과 규제 당국의 감시가 강화되었습니다.

자기 개선에 대한 요구

Ad

이러한 연구자들의 핵심 관심사는 재귀적 자기 개선 능력을 갖춘 AI 개발입니다. 즉, 모델이 최소한의 또는 전혀 인간의 개입 없이 스스로 학습하고 기능을 향상시킬 수 있는 능력입니다. 비평가들은 사회가 이러한 기술에 대비하지 못하고 있으며, 주요 AI 연구소 내의 점점 더 고립된 조직 구조가 문제를 악화시키고 있다고 주장합니다.

오픈아이의 전 정책 연구원인 로지 캠벨은 로이터 통신과의 인터뷰에서 2024년 퇴사하기 전까지 회사 내에서 기술 방향에 영향을 미치기가 점점 더 어려워졌다고 말했습니다. 이러한 상황은 AI 발전에 대한 투자자들의 열정이 치열한 경쟁 시장을 부추기는 가운데서도 여전히 존재합니다.

경쟁 심화 속 업계, 위험성 인정

업계 리더들은 공개적으로 잠재적 위험성을 인정하고 있습니다. 앤트로픽(Anthropic)의 CEO 다리오 아모데이는 최근 업계의 개발 속도 늦추기를 촉구했으며, 오픈아이언(OpenAI)의 CEO 샘 알트만도 같은 의견을 표명했습니다. 투명성 제고의 일환으로, 앤트로픽은 기업공개(IPO)에서 잠재적 투자자들에게 고도 AI가 "인류에 재앙적이거나 실존적인 위험"을 초래할 수 있다고 경고할 계획이라고 알려졌습니다.

이러한 신중론에도 불구하고, 오픈아이언과 앤트로픽은 이번 달에 새로운 모델을 출시했습니다. 두 연구소에서 연구원으로 근무했던 제프리 어빙은 로이터 통신과의 인터뷰에서 기업들이 생각하는 '속도 늦추기'는 단순히 "속도를 크게 높이지 않는 것"이라고 말했습니다. 그는 연구소들이 일방적으로 개발 속도를 늦출 수도 있지만, 경쟁 속에서 어쩔 수 없이 속도를 늦춰야 하는 상황이며, 일부 리더들은 개발을 중단하면 안전성을 덜 중요시하는 경쟁업체가 선두를 차지할 것이라고 우려하고 있다고 덧붙였습니다.