딥마인드 공동창업자 "AI 역량, 안전 통제 속도 넘어서는 안 돼" (FT 보도)

구글 딥마인드의 공동창업자인 셰인 레그가 빠르게 발전하는 인공지능(AI) 기술 역량이 안전 통제 장치를 앞질러서는 안 된다고 경고했습니다. 파이낸셜 타임스(FT)는 16일(현지시간) 레그가 범용 인공지능(AGI)의 사회적 적용을 탐구하기 위한 '딥마인드 연구소'를 출범시키며 이같이 밝혔다고 보도했습니다.

AI 발전 속도에 대한 우려

최근 AI 에이전트가 스스로 소프트웨어를 작성하고 자율적인 작업을 수행하며, 심지어 다른 AI 시스템 개발을 보조하는 등 역량이 고도화되면서 업계의 우려가 커지고 있습니다. 이는 AI가 스스로를 개선하는 '재귀적 자기 개선'을 통해 인간의 통제 속도를 넘어설 수 있다는 가능성을 제기합니다.

FT에 따르면 레그는 프론티어 모델의 출시 속도를 늦추되 중단하지는 말아야 한다는 앤트로픽 CEO 다리오 아모데이의 주장에 대해 "방향성이 흥미롭고 고려할 가치가 있다"고 평가했습니다. 이는 AI 기술 개발의 속도 조절 필요성에 대한 업계 리더들의 공감대가 형성되고 있음을 시사합니다.

AGI 달성 시점과 딥마인드 연구소

Ad

레그는 엔비디아와 OpenAI의 일부 경영진이 제기한 AGI 달성 주장에 대해 "아직 시기상조"라고 선을 그었습니다. 그는 2028년까지 '최소 수준의' AGI가 달성될 확률이 50%라는 자신의 기존 전망에 대해 여전히 "편안하게 생각한다"고 덧붙였습니다.

새롭게 출범한 딥마인드 연구소는 AGI에 대한 대중적 논의를 확장하는 것을 목표로 합니다. 구글 딥마인드는 AGI를 '인간 두뇌 수준의 인지 능력을 갖춘 시스템'으로 정의합니다. 연구소의 주요 논의 주제는 다음과 같습니다.

• 과학, 교육, 사회, 정책
• 철학 및 인간 번영
• AI 안전, 경제 정책, '새로운 유토피아주의' 원칙 (초기 에세이 주제)

이러한 움직임은 AI 기술의 상업적 경쟁이 심화되는 가운데, 기술이 사회에 미칠 영향과 윤리적, 안전 문제를 공론화하려는 시도로 분석됩니다.