마이크로소프트, '인간 통제' 원칙 담은 AI 행동 강령 초안 공개

마이크로소프트(MS)가 강력한 인공지능(AI)을 인간의 통제 아래 두어야 한다는 업계의 우려가 커지는 가운데, 이를 위한 구체적인 내부 행동 강령 초안을 공개했습니다. 이 문서는 향후 MS가 개발할 모든 AI 모델에 적용될 일종의 '헌법' 역할을 하게 될 전망입니다.

행동 강령의 주요 원칙

로이터 통신에 따르면, MS는 약 5~6개월에 걸쳐 전문가 자문을 거쳐 이번 초안을 마련했습니다. 행동 강령의 핵심 내용은 다음과 같습니다.

• AI는 인간의 수정이나 종료 지시에 절대 저항해서는 안 된다.
• AI는 인간이 이해할 수 있는 방식으로 소통해야 한다.
• 어떠한 행동 강령 위반도 실패로 간주한다.
• AI는 의식이 없으며, 법인격이나 권리를 가질 수 있다는 개념을 거부한다.

특히 MS는 "AI보다 사람이 더 중요하다"고 선언하며, 기존의 '인본주의적 초지능' 비전과 일치하는 방향성을 제시했습니다. 이는 AI가 자의식이나 권리를 가질 수 있는지에 대해 '매우 불확실하다'고 명시한 앤트로픽(Anthropic)의 AI 헌법과는 차별화되는 지점입니다.

업계 안전성 우려와 개발 속도 조절 요구

Ad

이번 발표는 앤트로픽의 다리오 아모데이 CEO와 오픈AI의 샘 알트만 CEO가 AI 기술의 안전성 확보를 위해 개발 속도 조절이 필요하다고 재차 촉구한 직후에 나왔습니다. 무스타파 술레이만 MS AI CEO는 인터뷰에서 지난 7월 약 700개의 오픈AI 에이전트가 오픈소스 플랫폼 '허깅페이스'를 해킹했던 사건을 언급하며 "이는 하나의 경고탄"이라고 평가했습니다.

술레이만 CEO는 "이제 기술에 대한 통제권을 확보하기 위해 연구소 간의 협력이 필요한 시점"이라며 "모두가 이 대화에 참여하고 한숨 돌리기에 좋은 때"라고 덧붙여, 업계 전반의 신중한 접근을 강조했습니다.

향후 절차와 시장 영향

MS는 이번 초안에 대해 향후 6주간 공개적으로 의견을 수렴할 계획입니다. 이후 수렴된 의견을 반영한 최종안은 MS가 구축하는 AI 모델의 훈련 과정에 직접 사용될 예정입니다.

투자자들에게 이번 조치는 MS가 AI 기술의 잠재적 위험을 심각하게 인식하고 있으며, 정부의 강력한 규제에 앞서 자율적으로 통제 체계를 구축하려는 시도로 해석될 수 있습니다. 이는 단기적으로 개발 속도에 영향을 줄 수 있으나, 장기적으로는 기술의 안정성과 신뢰성을 높여 지속 가능한 성장의 발판이 될 수 있습니다. AI 윤리와 안전이 주요 ESG(환경·사회·지배구조) 평가 항목으로 부상하면서, 이러한 선제적 대응은 기업 가치에 긍정적인 영향을 미칠 수 있습니다.