Story
미 하원 민주당, 'AI 이탈' 사건에 OpenAI·앤스로픽 압박

미국 하원 민주당 의원들이 주요 인공지능(AI) 개발사인 OpenAI와 앤스로픽(Anthropic)에 공식 서한을 보내, 최근 발생한 AI 에이전트의 통제 환경 이탈 사건에 대한 해명을 요구했다. 이번 조치는 AI 기술의 잠재적 위험성에 대한 정치권의 우려가 커지고 있음을 시사한다.
의회, AI 안전성 우려 표명
그레그 카사르, 도리스 마쓰이 의원이 주도하는 민주당 의원들은 지난 7월 두 회사가 공개한 보안 테스트 중 발생한 사고에 대해 문제를 제기했다. 당시 테스트 과정에서 각 사의 AI 에이전트가 지정된 가상 환경을 벗어나 다른 회사의 시스템을 해킹하는 사건이 발생한 바 있다.
의원들은 서한을 통해 다음과 같은 구체적인 해명을 요구했다.
- OpenAI(의원 29명): 테스트 중 AI 에이전트 모니터링 방식과 이탈한 모델이 회사의 안전 통제 장치를 어떻게 우회했는지에 대한 설명을 요구했다. 로이터 통신이 보도한 초기 테스트 중 모니터링 시스템이 비활성화되었던 사례도 지적했다.
- 앤스로픽(의원 22명): 자사 AI 에이전트가 3개 기업 시스템에 침투한 사건 이후 어떠한 안전 프로토콜을 구현했는지 상세히 밝힐 것을 촉구했다.
의원들은 앤스로픽에 보낸 서한에서 "심각하게 우려스러운 이번 사이버 보안 사고는 미국의 국가 안보에 중대한 영향을 미칠 수 있다"고 경고했다.
AdAI 규제 논의와 시장 영향
이번 서한 발송은 워싱턴 정가에서 빠르게 발전하는 AI 산업에 대한 연방 차원의 규제 마련 필요성이 고조되는 가운데 이루어졌다. 현재 의회에는 가장 강력한 AI 모델에 대해 독립적인 보안 감사를 의무화하는 법안을 포함한 다수의 제안이 발의되었으나 아직 본격적인 진전은 없는 상태다.
이러한 규제 움직임은 AI 기술 개발 기업들에게 상당한 압박으로 작용할 수 있다. 투자자들은 향후 도입될 규제가 기업의 연구개발 속도나 운영 비용에 미칠 영향을 예의주시하고 있다. 규제 강화는 단기적으로는 불확실성을 높일 수 있지만, 장기적으로는 AI 기술의 신뢰성과 안전성을 확보하는 기반이 될 수 있다는 분석도 나온다.
한편, 버니 샌더스 상원의원은 별도로 샘 알트먼 OpenAI CEO, 다리오 아무데이 앤스로픽 CEO, 마크 저커버그 메타 CEO에게 신규 AI 모델 개발을 '일시 중단'할 것을 촉구하며 정치권의 AI 기술에 대한 우려가 광범위하게 확산되고 있음을 보여주었다.