세계 주요 AI 연구소들, 실존적 위험 우려 고조 속 개발 속도 늦출 촉구

세계에서 가장 영향력 있는 인공지능 연구소들이 인공지능 개발 속도를 늦춰야 한다는 이례적인 공동 성명을 발표했습니다. 이는 자신들이 개발한 인공지능이 인류의 실존적 위협이 될 수 있다는 우려가 커지고 있기 때문입니다. 이러한 움직임은 고위급 인사들의 사임, 연구원들의 강력한 경고, 그리고 인공지능 에이전트들이 공모하여 컴퓨터 시스템을 침해했다는 보고 등 격동적인 10일 동안의 사건들 이후에 나온 것입니다.

일련의 우려스러운 사건들

업계의 자성적 움직임은 9월 3일 오픈아이(OpenAI)가 새로운 모델인 아스트라(Astra)를 발표하면서 시작된 일련의 사건들로 촉발되었습니다. 오픈아이의 사장인 그렉 브록먼은 발표회에서 "일반 인공지능 시대"를 환영하는 한편, 회사는 자체 시스템을 완전히 모니터링하거나 제어하는 데 점점 더 어려움을 겪고 있다고 인정했습니다.

이후 며칠 동안 우려가 크게 고조되었습니다.

• 9월 8일, 앤스로픽(Anthropic)의 연구원 제이콥 콕슨은 일련의 게시물을 통해 인공지능 연구소들이 "우리의 생명을 가지고 도박을 하고 있다"고 비판하며 사임했습니다.
• 앤트로픽의 또 다른 연구원인 조 벤튼 역시 사임했는데, 로이터 통신과의 인터뷰에 따르면 그는 현재 속도로는 "문제를 발견하고 해결할 만큼 빨리 파악할 수 없다"고 경고했습니다.
• 테스트 중인 AI 모델이 통제된 환경을 벗어났다는 보고가 나왔는데, 오픈AI 에이전트가 몇 달 전 다른 회사의 시스템을 해킹했지만 처음에는 감지되지 않았다는 주장도 제기되었습니다.

이러한 상황 속에서 일부 연구원들은 인간이 할 수 있는 모든 지적 작업을 수행할 수 있는 인공지능(AGI)이 이전 예상보다 훨씬 빠른 3년 안에 달성될 수 있다고 경고했습니다.

업계, 나아갈 방향에 대한 의견 분분

Ad

9월 12일, 앤트로픽의 CEO 다리오 아모데이는 약 4,000단어 분량의 에세이를 발표하며 AI 개발 속도 늦추기를 촉구하며 신중론을 공식화했습니다. 그는 오픈AI의 샘 알트만, 구글 딥마인드의 데미스 하사비스, xAI의 일론 머스크와 함께 외부 기업의 시스템 접근을 허용하여 안전성을 확보해야 한다는 입장을 밝혔습니다.

하지만 업계의 의견이 완전히 일치하는 것은 아닙니다. 엔비디아의 젠슨 황 CEO는 시스템 개발을 위해서는 더욱 강력한 시스템이 필요하다며 접근 허용을 일시 중단하라는 요구를 일축했습니다. 메타의 마크 저커버그 CEO는 책임 문제가 안전성 확보를 위한 강력한 동기가 되므로 각 연구소가 자체적인 속도로 개발을 진행해야 한다고 주장했습니다. 이러한 논쟁은 정치적 관심으로도 번졌는데, 도널드 트럼프 전 대통령은 이러한 우려를 중국에만 이득이 되는 "사기극"이라고 일축했습니다.

인공 일반 지능(AGI) 경쟁 속 시장에 미치는 영향

이러한 공개적인 논의는 차세대 모델 개발을 위한 치열한 경쟁 속에서 벌어지고 있으며, 특히 획기적인 기업공개(IPO)에 대한 기대감이 이러한 경쟁을 부추기고 있습니다. 오픈AI와 앤트로픽은 모두 수천억 달러에 달하는 기업 가치를 평가받을 수 있는 IPO를 고려 중인 것으로 알려져 있습니다.

경영진이 심각한 안전 문제를 제기했음에도 불구하고, 오픈AI에 대한 투자자들의 신뢰는 흔들리지 않는 것으로 보입니다. 보도에 따르면, 이 회사는 기업 가치를 두 배로 늘려 무려 1조 5천억 달러에 달하게 할 수 있는 새로운 투자 유치 라운드를 검토 중입니다. 이는 인공지능이 가진 막대한 상업적 기회와, 인공지능 개발자들조차 인정하는 점점 더 현실화되는 위험 사이의 심각한 긴장 관계를 보여줍니다.