앤스로픽, IPO 서류에서 자율 AI로 인한 '예측 불가능한' 법적 위험 경고

인공지능(AI) 기업 앤스로픽(Anthropic)은 자율 AI 기술로 인한 잠재적 법적 책임을 중요한 위험 요소로 인식하고 있으며, 기업공개(IPO)招股書(招股書)에서 AI 에이전트의 오작동으로 인해 예측 불가능한 법적 소송에 직면할 수 있다고 경고했다고 로이터 통신이 입수한 문서를 통해 확인되었습니다.

'에이전트 AI' 관련 불확실한 책임 문제

앤스로픽은 고객 시스템에 대한 심층적인 접근 권한을 가지고 장기간 자율적으로 작동하도록 설계된 에이전트 AI 기술을 개발하고 있습니다. 招股書(招股書)에서 회사는 이러한 기능이 AI의 오류 발생이나 악용 가능성으로 인해 현실 세계에 심각한 결과를 초래할 수 있음을 인정했습니다.

특히, 무단 금융 거래나 데이터 삭제와 같은 돌이킬 수 없는 행위의 위험성을 지적했습니다. 招股書(招股書)에 따르면, 앤스로픽의 계약상 책임 한도는 자율 에이전트로 인해 발생하는 소송에 대해 "집행 가능하거나 적절하지 않을 수" 있어, 기업공개(IPO)를 준비하는 회사에 상당한 재정적, 법적 불확실성을 야기하고 있습니다.

광범위한 규제 문제

이번 공시는 기술 및 법률 분야에서 해결되지 않은 중요한 논쟁, 즉 자율 AI 시스템으로 인한 피해에 대한 책임 소재에 대한 문제를 부각시켰습니다. 앤트로픽은 공시 자료에서 다음과 같은 핵심적인 법적 질문들이 여전히 미해결 상태라고 지적했습니다.

Ad

• AI 에이전트의 행위가 법적으로 제품, 서비스 또는 다른 범주로 간주될 것인지 여부
• AI 에이전트의 행위가 해당 에이전트를 배포한 사용자에게 법적 구속력을 갖는 경우는 어떤 상황인지

이러한 불확실성은 최근 미국 연방거래위원회(FTC) 위원장 앤드류 퍼거슨의 발언에서도 드러났습니다. 그는 AI 도구로 인한 피해에 대한 책임은 AI 자체보다는 개발자나 사용자에게 있을 가능성이 높다고 시사했습니다. AI에 대한 법적 대응은 사용자 제작 콘텐츠에 대해 온라인 플랫폼에 역사적으로 부여되어 온 면책 특권과는 확연히 다릅니다. 이러한 면책 특권은 최근 법적 도전에 직면하기 시작했습니다.

유해한 모델 사용 관련 공개

Anthropic은 자율 에이전트 외에도 자사의 AI 모델이 안전장치가 있음에도 불구하고 "자해, 타인에 대한 폭력 행위 또는 기타 부정적인 결과로 이어질 수 있는 방식"으로 사용되었다고 공개했습니다. 이는 경쟁사인 OpenAI가 직면한 법적 문제와 유사합니다. OpenAI는 ChatGPT가 정신 건강 악화 및 자살과 연관되어 있다는 여러 소송에 휘말려 있습니다.

최근 법원은 Meta Platforms와 Google이 소셜 미디어 제품 설계상의 과실로 유죄 판결을 받은 획기적인 재판에서 볼 수 있듯이, 기술 기업의 플랫폼 설계에 대한 책임을 묻는 데 적극적인 태도를 보이고 있습니다. 이러한 법적 선례는 AI 모델이 사용자에게 부정적인 결과를 초래할 경우 AI 개발자에게 어려운 환경이 될 수 있음을 시사합니다.