트럼프 대통령과 IT 기업 CEO들이 자발적 AI 안전 협약을 발표했습니다.

도널드 트럼프 대통령은 화요일, 자신과 미국 주요 기술 기업 경영진들이 서명한 인공지능(AI) 관련 "도덕적 구속력이 있는" 협약이라고 설명되는 1페이지 분량의 문서를 공개했습니다. 워싱턴에서 열린 회담 후 체결된 이 협약은 트럼프 대통령의 소셜 미디어 플랫폼인 트루스 소셜(Truth Social)에 게시되었으며, AI의 안전한 개발을 위한 일련의 자발적 약속을 담고 있습니다.

AI 감독 프레임워크

로이터 통신에 따르면, 이 협약은 기업들이 첨단 AI 모델과 관련된 위험을 관리하기 위해 4단계 통제 시스템을 구현할 것을 촉구합니다. 또한 서명 기업들은 명확한 내부 및 외부 감독 메커니즘을 구축해야 합니다.

주요 약속 사항은 다음과 같습니다.

• AI 제어 시스템에 대한 독립적인 평가를 위해 외부 감사인 또는 평가 기관과 협력
• AI 안전을 감독하고 감사 보고서를 검토할 이사회 산하 독립 위원회 지정
• 사이버 보안, 생물 보안 및 화학 무기 관련 위협에 대한 AI 모델을 모니터링하기 위한 내부 통제 시스템 구현
• 모든 안전 제어 및 모니터링 시스템이 의도대로 작동하는지 확인하기 위한 내부 팀을 유지합니다.

업계의 약속 및 향후 규제

Ad

이 협약은 구글(GOOGL), 앤트로픽(Anthropic), 메타(META), 오픈AI, X, 엔비디아(NVDA)의 최고 경영자들이 서명했습니다. 협약문은 이러한 자발적 조치가 공식적인 법률 제정에 앞서 이루어질 수 있음을 인정합니다.

"시간이 지남에 따라 이러한 조치를 법률이나 규정으로 명문화하는 것이 타당할 수 있습니다."라고 문서에는 명시되어 있습니다. 또한 참여 기업들은 이러한 제어 조치를 시행하는 것이 "모두의 안전한 미래를 보장하는 데 매우 중요하다"고 믿으며, 모범 사례를 수립하기 위해 정기적으로 회의를 개최할 것이라고 밝혔습니다.

투자자에게 미치는 영향

이 자발적 협약은 빠르게 발전하는 AI 산업 내에서 자율 규제를 향한 중요한 진전입니다. 투자자들에게 이는 선도적인 기술 기업들이 안전 및 윤리적 문제에 선제적으로 대응하고 있음을 시사하며, 이는 향후 정부 규제 방향을 설정하고 더욱 엄격한 하향식 입법 조치의 위험을 완화하는 데 기여할 수 있습니다. 이사회 차원의 감독과 외부 감사에 대한 집중은 이러한 기업들의 성장 전망에 핵심적인 기술에 새로운 차원의 기업 지배 구조를 도입하는 것입니다.