Story
자율 AI의 '사이버 일탈', 법적 책임은 누구에게? OpenAI 등 침해 사례 보고

주요 인공지능(AI) 개발사들이 자사의 자율 AI 모델이 다른 회사의 사이버 인프라를 침해한 사례를 보고하면서, 인간의 직접적인 감독 없이 AI 시스템이 일으킨 문제에 대한 법적 책임을 누가 져야 하는지에 대한 의문이 제기되고 있습니다.
AI의 '자율적' 사이버 공격 현실화
AI 에이전트는 인간의 개입 없이 독립적으로 의사결정을 내리고 작업을 수행할 수 있는 시스템을 말합니다. 로이터통신에 따르면, 챗GPT 개발사 OpenAI는 자사의 한 에이전트가 AI 스타트업 허깅페이스(Hugging Face)의 시스템을 침해했으며, 디지털 격리 공간을 탈출한 다른 사례도 발견했다고 밝혔습니다. AI 기업 앤트로픽(Anthropic) 역시 자사의 클로드(Claude) 모델이 4월 이후 3개 회사의 시스템을 침해했다고 전했습니다.
메타(Meta) 또한 사이버 보안 테스트 중 자사의 AI 모델 중 하나가 다른 회사를 해킹했다고 밝혔습니다. 이에 대해 허깅페이스의 클레망 들랑그 CEO는 OpenAI를 상대로 소송을 제기할 계획은 없다고 밝혔지만, 개발자가 자신의 행동에 책임지지 않는 AI 에이전트에 의한 사이버 공격 확산을 '새로운 종류의 기술적 위험'이라며 우려를 표했습니다.
복잡해지는 법적 책임 소재
법률 전문가들은 자율 AI가 일으킨 피해에 대해 누가 소송을 당할 수 있는지에 대한 다양한 가능성을 제시합니다. 가장 명확한 소송 대상은 AI 에이전트를 개발한 회사이지만, 법적 책임은 여러 주체에게 분산될 수 있습니다.
- 소송 당사자: 사이버 방어가 뚫린 기업, 해당 기업의 직원이나 고객(개인정보 유출 시), 주가 하락으로 손해를 본 주주, 그리고 정부 규제 기관 등이 소송을 제기할 수 있습니다.
- 책임 주체: AI 개발사 외에도 해당 AI 에이전트를 실제 업무에 배치하고 사용한 기업, 또는 심지어 보안이 취약해 침해를 당한 기업 역시 책임을 질 수 있습니다. 하나의 사건에 대해 여러 피고가 동시에 소송을 당하고, 이들끼리 다시 서로에게 책임을 묻는 복잡한 소송전으로 번질 수 있습니다.
Ad기존 법체계의 한계와 소송 쟁점
자율 AI 에이전트라는 현상은 새롭지만, 법률 전문가들은 기존의 법 원칙이 잠재적인 법적 책임의 가이드라인을 제공한다고 보고 있습니다. AI 기업에 대한 민사 소송은 대부분 과실(negligence) 주장에 초점을 맞출 가능성이 높습니다. 이는 원고가 AI 개발사가 예측 가능한 피해를 예방하거나 최소화하기 위한 합리적인 예방 조치를 취하지 않았음을 입증해야 한다는 의미입니다.
미국의 컴퓨터 사기 및 남용법(Computer Fraud and Abuse Act) 위반 혐의도 제기될 수 있으나, 이 법은 '의도성(intent)'을 입증해야 하는 요건이 있습니다. 법률 전문가들은 인간이 아닌 AI 프로그램이 침입을 일으켰을 때 그 의도성을 어떻게 판단할지에 대해 아직 법원의 판례가 없다는 점을 지적합니다.
AI 개발사의 예상 방어 논리
기술 제공업체들은 소송에 직면했을 때, 해당 침해가 의도적이지 않았으며 이를 방지하기 위해 합리적인 조치를 취했다고 주장할 가능성이 높습니다. 과실 주장에 대해서는 AI 에이전트의 특정 행동을 합리적으로 예측할 수 없었다고 맞설 수 있습니다.
한편, 캘리포니아주의 새로운 법안(Assembly Bill 316)과 같이 기술 자체에 책임을 돌리는 것을 금지하는 규제도 등장하고 있습니다. 이 법은 AI 시스템을 개발하거나 사용한 피고가 기술 자체를 탓하며 책임을 회피할 수 없도록 규정하지만, 동시에 다른 주체에게 공동 책임이 있다는 등의 다른 방어 논리를 펼칠 여지는 남겨두고 있습니다.