구글 전 안전 책임자, 인공지능이 소셜 미디어보다 어린이에게 더 큰 위험을 초래한다고 경고

알파벳의 구글에서 고위 임원을 지낸 톰 시걸은 인공지능(AI) 업계가 소셜 미디어 시대의 실수를 되풀이하고 있으며, 잠재적으로 어린이들에게 더 큰 피해를 줄 수 있다고 강력하게 경고했습니다. 구글의 신뢰 및 안전팀 설립자인 시걸은 AI 개발 속도를 늦춰야 한다고 촉구하며, 업계가 스스로 규제할 수 있다는 믿음은 "비현실적"이라고 이번 주 로이터 통신과의 인터뷰에서 밝혔습니다.

기술 업계 베테랑의 강력한 경고

2004년부터 2019년까지 구글에서 신뢰 및 안전 부문 부사장을 역임한 시걸은 AI가 이미 수많은 소송과 전 세계적인 규제 압력에 직면해 있는 소셜 미디어 플랫폼보다 청소년에게 더 심각한 위협이 될 수 있다고 우려를 표명했습니다. 그는 주요 AI 기업들이 적절한 안전장치 없이 어린이들에게 첨단 기능을 배포하고 있다고 주장했습니다.

시걸은 로이터 통신과의 인터뷰에서 "AI가 어린이들에게 미치는 영향 측면에서 우리는 정말 끔찍한 상황에 처해 있다"고 말했습니다. 그는 자살, 정신병, 인지적 부담 완화(AI에 과도하게 의존하여 비판적 사고 능력이 저하되는 현상) 등 "매우 심각한 피해 시나리오"를 경고했습니다.

책임성 강화를 위한 새로운 역할

이러한 우려에 대응하기 위해 시걸은 화요일 비영리 옹호 단체인 커먼 센스 미디어(Common Sense Media)의 새로운 청소년 AI 안전 연구소(Youth AI Safety Institute)의 초대 소장으로 합류했다고 발표했습니다. 앤트로픽(Anthropic)과 오픈AI 재단(OpenAI Foundation)을 비롯한 업계 관계자들의 지원을 받는 이 연구 기관은 차량 충돌 테스트와 유사하게 어린이에게 미치는 AI 도구의 위험성을 평가하는 독립적인 기준을 개발하는 것을 목표로 합니다.

Ad

시걸은 AI 기업 및 제3자 단체와 협력하여 책임성 기준을 마련하는 것이 목표라고 밝혔습니다. 그는 기술 업계가 온라인 소비자 안전을 보장하는 데 있어 "정체기"에 접어들었다고 판단하여 2019년 구글(Google)을 떠났습니다.

업계 반응 및 제안된 보호 조치

시겔은 AI 기업들이 단기적인 사용량 감소나 수익 감소를 감수하더라도 어린 사용자들을 더 잘 보호하기 위해 즉시 취할 수 있는 조치들을 제시했습니다. 그는 아무런 조치를 취하지 않을 경우 향후 소송이나 규제로 인해 더 심각한 결과를 초래할 수 있다고 경고했습니다.

• 앤트로픽(Anthropic)과 오픈아이(OpenAI)는 미성년자의 챗봇 접근을 막기 위해 더욱 강력한 연령 확인 시스템을 도입할 수 있습니다.
• 구글(Google)은 기존의 음란물 필터처럼 검색 결과에 AI 개요 및 AI 모드를 간단하게 끌 수 있는 기능을 추가할 수 있습니다.

이러한 의견에 대해 구글 대변인은 로이터 통신에 구글의 자녀 보호 기능을 통해 자녀의 검색 엔진 접근을 완전히 차단할 수 있다고 밝혔습니다. 오픈아이 대변인은 자사가 사용자가 직접 입력한 연령 정보 외에도 "계정 및 행동 신호"를 활용하여 미성년자를 식별하고 있으며, 시스템을 지속적으로 개선하고 있다고 말했습니다. 앤트로픽은 즉각적인 답변을 내놓지 않았습니다.