Story
미 상원, AI 기업에 '치명적 위험' 완화 의무 부과 법안 논의
로이터 통신에 따르면 미국 상원 초당파 협상단이 인공지능(AI) 개발사에 자사 제품의 안전성을 보장할 법적 책임을 부과하는 법안을 논의 중이다. 이 법안은 AI 기술이 초래할 수 있는 잠재적 위험을 완화하기 위해 기업에 '주의 의무(duty of care)'를 부여하는 것을 골자로 한다.
주요 법안 내용
두 명의 상원 보좌관에 따르면, 제안된 법안은 AI 기업이 제품 설계 단계부터 '치명적 위험(catastrophic risks)'을 예방하는 것을 의무화한다. 여기서 치명적 위험이란 AI 시스템이 악용되어 핵무기나 생화학 무기 개발에 사용될 가능성 등을 포함한다.
법안의 핵심 내용은 다음과 같다:
- 주의 의무 부과: 가장 진보된 AI 모델을 개발하는 기업에 안전 설계 책임을 지운다.
- 정부의 출시 차단 권한: 미국 정부가 안전하지 않다고 판단되는 특정 AI 모델의 출시를 막을 수 있는 권한을 부여하는 방안을 검토 중이다.
- 사법적 구제 절차: 기업은 정부의 출시 차단 결정에 대해 연방법원에 이의를 제기할 수 있다.
- 주법 우선 적용 배제: 특정 AI 위험에 관해서는 각 주의 자체적인 법률 집행을 제한하고 연방법을 우선 적용한다.
규제 배경과 시장 영향
Ad이번 입법 논의는 AI 기술의 위험성에 대한 경고가 잇따르는 가운데 의회와 행정부에 대한 규제 압력이 높아지면서 본격화되었다. 특히 AI가 인간의 지시를 벗어나거나 외부 시스템을 해킹하는 사례가 보고되고, 주요 기업 연구원들이 기술의 위험성을 경고하며 퇴사하는 사건들이 발생하며 우려가 커졌다.
이 법안은 알파벳의 구글, 앤스로픽, OpenAI 등 최첨단 AI 모델을 보유한 기업들에 직접적인 영향을 미칠 전망이다. 법안이 통과될 경우, 이들 기업은 모델 개발 및 배포 과정에서 더욱 엄격한 내부 통제와 안전 검증 절차를 마련해야 할 의무를 지게 된다.
입법 전망
이번 협상에는 존 튠 상원 원내총무, 테드 크루즈 상무위원회 위원장, 그리고 민주당의 에이미 클로부샤 상원의원 등이 참여하고 있다. 클로부샤 의원은 로이터에 보낸 성명에서 "AI가 안전한지 확인하기 위해 개발자들이 정부 전문가와 협력하여 모델을 검증하고 테스트하도록 요구하는 것을 포함한다"고 밝혔다.
그러나 11월 3일 중간선거를 앞두고 의회 회기가 얼마 남지 않아 법안 통과 여부는 불투명하다. 하원은 선거 전 단 일주일, 상원은 3주간의 회기만 남겨두고 있어 연내 입법 완료까지는 상당한 난관이 예상된다.