노벨상 수상자 마리아 레사, "AI 즉시 규제 안 하면 인류 주체성 상실할 것"

2021년 노벨 평화상 수상자인 마리아 레사가 인공지능(AI)이 인류의 주체성을 빼앗기 전에 즉각적인 법적 규제를 마련해야 한다고 강력히 경고했다. 유엔 AI 과학 자문기구 공동의장을 맡고 있는 그는 AI가 이미 소셜 미디어를 통해 인간의 관심을, 챗봇을 통해 생물학적 친밀감을 조종하며 영향력을 확대해왔다고 지적했다.

로이터 통신과의 인터뷰에서 레사는 오슬로에서 열린 한 콘퍼런스에 참석해 이같이 밝혔다. 그는 "지금 개입하지 않으면 통제 불가능한 상황에 이를 것"이라며 현시점이 중대한 분기점임을 강조했다.

"공공 안전 문제"…규제의 시급성

레사는 AI 규제 문제를 '표현의 자유'가 아닌 '공공 안전 문제'로 접근해야 한다고 역설했다. 그는 AI가 약 70년에 걸쳐 세 단계의 물결을 통해 대중에게 영향을 미쳤다고 분석했다.

• 1단계: 소셜 미디어 플랫폼이 사용자의 관심을 사로잡아 사회를 양극화하고 개인을 고립시켰다.
• 2단계: 챗봇 등 친밀감을 무기로 인간의 생물학적 특성을 해킹했다.
• 3단계: 인간을 대신해 행동하는 '에이전트 AI'와 '다중 에이전트 AI' 같은 프론티어 모델이 인간의 주체성 자체를 위협하고 있다.

레사는 중국과의 AI 경쟁에서 뒤처질 것을 우려해 규제를 반대하는 주장에 대해 "실리콘밸리가 전 세계 시민을 위해 마련한 안전장치보다 중국이 자국민을 위해 더 많은 장치를 두고 있다"며 '훌륭한 여론몰이'에 불과하다고 일축했다.

Ad

빅테크 책임론과 해결 방안

레사는 변화를 위한 첫 단계로 기술 기업들이 초래한 피해에 대한 책임을 져야 한다고 주장했다. 그는 미국에서 제기된 소송으로 메타 플랫폼이 향후 10년간 최대 180억 달러를 지급하고 10대들의 페이스북 및 인스타그램 사용을 엄격히 제한하게 된 것을 긍정적인 사례로 꼽았다.

또한 유럽연합(EU)과 호주 등이 주도하는 소셜 미디어 연령 제한 조치를 환영하면서도, 기술 기업들이 개발한 도구의 '중독성'이라는 근본적 결함은 해결하지 못한다고 지적했다. 그는 "청소년뿐만 아니라 우리 모두를 위해 중독성 있는 기능을 제거해야 한다"고 덧붙였다.

궁극적인 대안으로 그는 빅테크의 통제에서 벗어난 공익 단체 주도의 커뮤니케이션 플랫폼 구축을 제안했다. 자신이 공동 창업한 뉴스 매체 '래플러(Rappler)'가 2023년 출시한 '래플러 커뮤니티'를 예로 들며, 이를 통해 독자들이 안전한 디지털 공간에서 소통할 수 있는 모델을 동남아시아 다른 매체로도 확장하고 있다고 밝혔다.