Story
BMO는 AI 안전 우려가 첨단 기술 개발 속도를 늦출 가능성은 낮다고 밝혔습니다.
Summary
업계 리더들 사이에서 진정한 안전 우려가 제기되고 있음에도 불구하고, 주요 AI 연구소들은 더욱 강력한 모델 출시를 늦출 기미를 거의 보이지 않고 있다고 BMO 보고서는 전했다.
BMO는 금요일 발표한 연구 보고서에서, 인공지능 기술의 안전성에 대한 진정성 있고 타당한 우려를 표명하고 있음에도 불구하고, 주요 인공지능 연구소들이 첨단 모델 개발 속도를 늦출 가능성은 낮다고 밝혔습니다.
BMO의 분석은 인공지능 분야 리더들의 우려 표명과 앤트로픽(Anthropic) 및 오픈AI(OpenAI)와 같은 개발사들이 점점 더 강력한 모델을 지속적으로 출시하는 현실 사이에 괴리가 있음을 시사합니다.
개발 속도 vs. 안전성 우려
BMO는 앤트로픽의 CEO 다리오 아모데이를 비롯한 주요 인사들이 인공지능 개발 속도를 늦춰야 한다는 주장은 잠재적인 문제가 돌이킬 수 없게 되기 전에 첨단 시스템을 인간의 이익에 부합하도록 조정해야 한다는 필요성에 근거한다고 지적했습니다. 여러 인공지능 업계 임원들이 이러한 제안을 지지했으며, 최근 미·중 정상회담에서도 이 주제가 논의된 것으로 알려졌습니다.
그러나 BMO는 주요 개발사들의 지속적인 제품 출시를 지적하며, 이들의 자율 규제 의지에 의문을 제기했습니다. 보고서는 보안 문제도 다루며, 최근 AI 관련 해킹 사건들이 "대부분 무해했지만" 사용자들이 내장된 보안 장치를 우회하는 방법을 찾아냄에 따라 악의적인 공격자가 오픈 액세스 모델을 악용할 위험이 커지고 있다고 지적했습니다.
규제 및 시장 영향
AdBMO는 미국과 중국 모두 결국 AI 규제를 강화할 것으로 예상하며, 폐쇄형 시스템보다는 오픈 소스 및 오픈 액세스 모델에 초점을 맞출 것이라고 전망했습니다. 이러한 규제는 해당 모델의 광범위한 공개 배포 전에 정부 승인을 요구할 가능성이 높습니다.
보고서에 따르면 이러한 규제 변화는 경쟁을 제한하고 가격 결정력을 강화함으로써 폐쇄형 소스 기반의 첨단 연구소에 유리하게 작용할 것입니다. BMO는 AI 토큰 가격이 계속 하락하여 사용자 채택이 증가하다가 2030년경 바닥을 칠 것으로 예측합니다. 그 이후에는 사용자들이 해당 플랫폼에 더욱 의존하게 됨에 따라 폐쇄형 소스 제공업체들이 가격을 인상할 것으로 예상됩니다.
경제 및 산업 전망
BMO는 전반적인 시장 전망과 관련하여 다음과 같은 몇 가지 주요 사항을 제시했습니다.
- AI 하드웨어: BMO는 하드웨어 부문에 대해 낙관적인 전망을 유지하고 있으며, AI 기능에 대한 수요가 예상치를 뛰어넘으면서 컴퓨팅 파워가 부족해지고 있다고 분석했습니다.
- 메타 플랫폼(META): META는 AI 분야에서 입지를 강화했지만, Anthropic이나 OpenAI와 같은 선두 기업에 비해 여전히 뒤처져 있습니다.
- 일자리 대체: BMO는 사무직 일자리의 대체가 2028년부터 본격적으로 나타날 것으로 예상합니다. 생산직 일자리의 경우 그보다 늦은 2030년대에 영향을 받을 것으로 예상되는데, 이는 신체적 기교를 요하는 작업은 인지적 작업보다 AI가 자동화하기 어렵다는 모라벡의 역설 때문이라고 BMO는 분석했습니다.