미국 연방거래위원회(FTC) 위원장: 알고리즘의 작동에 대한 책임은 인공지능이 아닌 기업에 있다

앤드류 퍼거슨 미국 연방거래위원회(FTC) 위원장은 인공지능 시스템을 자율적인 주체로 보는 관점에 반박하며, 기업들이 자사 기술의 행위에 대해 책임을 져야 한다고 강조했습니다. 이는 규제 당국이 기업들이 알고리즘 탓으로 책임을 회피하는 것을 용납하지 않겠다는 신호입니다.

AI의 '인간화' 거부

로이터 통신에 따르면, 퍼거슨 위원장은 금요일 로이터 모멘텀 AI 오스틴 행사에서 "이러한 도구들을 인간처럼 취급하는 것에 저항하겠다"고 밝혔습니다. 그는 AI 시스템이 "자체적인 의지와 욕구"를 가지고 "통제에서 벗어날 수 있다"는 주장에 이의를 제기했습니다.

퍼거슨 위원장은 기업들이 때때로 AI 시스템이 인간의 통제를 벗어난다고 주장하지만, 이후 감사 추적을 통해 시스템이 단순히 지시를 실행했을 뿐이라는 사실이 일관되게 드러났다고 지적했습니다. 이러한 결과는 기업 책임에 대한 FTC의 입장을 뒷받침합니다.

기업 책임에 대한 시사점

위원장의 발언은 기술 업계에 분명한 경고를 보내는 것입니다. 미국 연방거래위원회(FTC)의 입장은 가격 담합이나 차별적 광고와 같은 불법적이거나 유해한 결과에 대해 알고리즘을 탓하는 변명이 성공할 가능성이 낮다는 것을 시사합니다. AI를 도입하는 기업은 이로 인해 발생하는 모든 반경쟁적 행위나 소비자 피해에 대해 전적인 책임을 져야 합니다.

Ad

이러한 규제 기조는 강력한 거버넌스와 감독의 필요성을 강조합니다. 규제 당국은 기계의 자율성보다는 인간이 설정한 지침과 매개변수에 초점을 맞출 가능성이 높으므로, 기업은 AI 시스템을 이해하고, 모니터링하고, 통제해야 합니다.

투자자에게 미치는 영향

AI 분야 투자자에게 있어 퍼거슨 위원장의 발언은 운영 및 법적 위험의 핵심 영역을 부각합니다. 상당한 규제 처벌 가능성이 있다는 것은 기업의 AI 거버넌스, 위험 관리 및 규정 준수 체계가 기업 가치 평가에 중요한 요소임을 의미합니다.

AI 도구에 대한 통제 및 감독 능력을 입증하지 못하는 기업은 강화된 규제와 재정적 위험에 직면할 수 있습니다. 이러한 규제 명확화는 업계로 하여금 더욱 투명하고 감사 가능한 AI 시스템에 투자하도록 압력을 가하고 있으며, 이는 잠재적으로 규정 준수 비용을 증가시키지만 장기적으로 더욱 안정적인 운영 환경을 제공할 것입니다.