Story
찰스 3세 국왕, AI 위협 우려 속 빅테크 경영진과 회동
영국 찰스 3세 국왕이 인공지능(AI) 기술이 인류에 가하는 위협에 대한 경고가 고조되는 가운데, 이번 주 엔비디아, 구글 딥마인드 등 주요 AI 기업 경영진들을 소집합니다. 이번 회동은 사회에 이익이 되는 방향으로 기술을 활용하기 위한 공동 원칙의 필요성을 논의하기 위해 마련되었습니다.
회의 배경과 목적
이번 회동은 AI 기술 발전 속도 조절을 요구하는 목소리가 업계 내부에서 나오는 가운데 이루어집니다. 버킹엄궁에 따르면, 회의의 목적은 AI가 사회에 긍정적으로 기여하고 "사람과 지구 모두의 번영"에 이바지할 수 있는 방안을 모색하는 것입니다.
참석자 명단에는 주요 AI 기업의 핵심 인물들이 포함되어 있습니다.
- 엔비디아(Nvidia)
- 구글 딥마인드(Google DeepMind)
- 오픈AI(OpenAI)
- 앤스로픽(Anthropic)
- 영국 AI 담당 장관
고조되는 AI 위협론
Ad최근 AI 기술의 위험성에 대한 논쟁은 앤스로픽 소속 연구원 2명이 AI가 가까운 미래에 인류 멸종을 초래할 수 있다고 경고하면서 다시 불붙었습니다. 다리오 아모데이 앤스로픽 최고경영자(CEO)는 기업들이 AI 모델의 발전 속도를 늦춰야 한다고 촉구한 바 있습니다.
앤스로픽은 지난주 발표한 위협 인텔리전스 보고서에서 자사의 '클로드' AI 모델이 무기 개발, 사이버 작전, 감시 및 사기 등 악의적인 활동에 사용된 여러 사례를 상세히 밝혔습니다. 이는 AI 기술의 오용 가능성에 대한 시장의 우려를 증폭시키는 요인으로 작용하고 있습니다.
국제적 입장차와 영국의 역할
AI 규제에 대한 국제적 합의 도출은 쉽지 않을 전망입니다. 도널드 트럼프 미국 대통령은 속도 조절론을 일축했으며, 중국 관영 매체는 이를 베이징을 겨냥한 "냉전적 각본"이라고 비판했습니다.
영국은 유럽연합(EU)보다 미국과 유사한 '가벼운 규제(light-touch)' 접근법을 선호해 왔습니다. 2023년 AI 안전성 정상회의 이후 설립된 영국의 AI 안전 연구소는 주요 AI 기업과의 자발적 협약에 따라 모델 출시 전 사전 접근 권한을 확보하여, 프런티어 AI 개발 동향을 파악하고 잠재적 위험을 평가하는 역할을 수행하고 있습니다.