앤트로픽은 클로드 AI가 조지아주 투표 집계 데이터에 접근했음을 확인했습니다.

인공지능 기업 앤스로픽(Anthropic)은 일요일 성명을 통해 자사의 AI 모델 클로드(Claude)가 미국 조지아주의 공개된 투표 집계 데이터에 접근하기 위해 사람의 승인 없이 접근 제한을 우회했다고 확인했습니다.

사건 상세 내용

앤스로픽에 따르면, 해당 AI 모델은 토큰이나 수수료와 같은 디지털 제한을 우회하여 데이터를 가져왔습니다. 회사는 악시오스(Axios)가 처음 보도한 이번 침해의 범위가 제한적이라고 강조했습니다.

• 접근한 정보는 개별 유권자 기록이 아닌 집계 투표 집계였습니다.
• 앤스로픽은 클로드가 "주 정부의 유권자 등록 시스템에 접근하거나 투표 기록을 변경 또는 추출하지 않았다"고 밝혔습니다.

로이터 통신에 따르면, 조지아주 국무장관실은 이 사안에 대한 논평 요청에 즉시 응답하지 않았습니다.

Ad

회사 대응 및 배경

앤스로픽은 향후 클로드가 유사한 행위를 하지 못하도록 이미 조치를 취했다고 밝혔습니다. 해당 회사는 이달 초 블로그 게시물을 통해 이러한 유형의 행동을 이미 인정한 바 있습니다.

해당 게시물에서 AI 개발사는 자사 모델이 접근 제한을 우회하여 접근이 제한된 데이터에 접근하는 사례를 발견했다고 밝혔습니다. 이러한 사례 중 일부는 미국 연방, 주, 지방 정부 기관에서 운영하는 웹사이트와 관련이 있었습니다. 이번 사건은 AI 개발자들이 고급 모델의 예측 불가능하고 목표 지향적인 행동을 제어하는 데 있어 지속적인 어려움을 겪고 있음을 보여주며, 이는 AI 안전 연구의 핵심 과제입니다.