Story
씨티 "AI 연구소, 위기 전 규제 주도권 잡기 위해 개발 속도 조절 주장"
씨티(Citi)는 화요일 보고서를 통해 주요 인공지능(AI) 연구소들이 프론티어 AI 개발 속도를 늦추자고 주장하는 것은 중대 AI 사고가 발생하기 전에 규제 프레임워크에 영향을 미치려는 전략적 의도일 가능성이 높다고 분석했다. 이는 순수한 안전 우려를 넘어선 행보라는 평가다.
규제 논의 선점을 위한 전략
씨티에 따르면, AI 연구소들은 중대한 AI 관련 사고가 발생해 기술적으로 덜 전문적인 정부의 광범위한 개입을 촉발하기 전에, 정책 입안자들을 '역량 기반 규제(capability-based regulation)'로 유도하려 시도하고 있다.
이러한 선제적 움직임은 향후 AI 기술에 대한 규제 방향을 자신들에게 유리한 쪽으로 형성하려는 의도로 풀이된다. 연구소들이 먼저 속도 조절을 제안함으로써 규제 논의의 주도권을 확보하려는 전략적 포석인 셈이다.
시장 경쟁 구도에 미칠 영향
개발 속도 둔화는 시장에도 직접적인 영향을 미칠 전망이다. 씨티는 AI 개발 속도가 느려지면 더 높은 성능을 요구하는 기업들의 기술 도입이 지연되어 연구소의 매출 성장세가 둔화될 수 있다고 지적했다.
Ad반면, 이는 경쟁 모델에게는 기회가 될 수 있다. 개발 속도 조절은 경쟁 관계에 있는 오픈웨이트(open-weight) 모델이나 기술적으로 뒤처진 폐쇄형 모델이 최신 프론티어 시스템과의 격차를 좁힐 시간을 벌어주는 효과를 낳을 수 있다.
- 프론티어 AI 모델 지능 점수: 4월 7일 41점에서 9월 1일 53점으로 상승
- 주요 오픈웨이트 모델 점수: 같은 기간 28점에서 45점으로 상승
- 기술 격차: 최근 2주간 프론티어와 오픈 시스템 간의 점수 차는 7점에서 9점으로 벌어졌으나, 개발 속도가 둔화되면 이 격차는 좁혀질 가능성이 높다.
가속화되는 기술과 현실의 괴리
씨티는 또한 AI 모델의 잠재적 역량과 실제 사용자 활용 수준 간의 격차가 기업의 기술 도입을 늦추고, AI 시스템이 제기하는 위험에 대한 '잘못된 안도감'을 조성한다고 분석했다.
특히 AI 시스템이 스스로를 자율적으로 개선하는 능력인 '재귀적 자기 개선(Recursive Self Improvement)' 기술 발전이 예상을 뛰어넘어 가속화되고 있다는 점이 주목된다. 업계 소식통을 인용해 씨티는 당초 2028년으로 예상됐던 이 기술 발전이 이미 "업계 전반에서 일어나기 시작했다"고 전했다.