元Google安全責任者が、AIはソーシャルメディアよりも子供にとって大きなリスクをもたらすと警告

Alphabet傘下のGoogleの元幹部が、人工知能（AI）業界がソーシャルメディア時代の過ちを繰り返しており、子どもたちにさらに深刻な被害をもたらす可能性があると、厳しい警告を発した。Googleの信頼・安全チームの創設者であるトム・シーゲル氏は、AI開発の減速を求め、業界が自主規制できると考えているのは「非現実的」だと述べた。これは今週ロイター通信が報じた内容だ。

テクノロジー業界のベテランからの厳しい警告

2004年から2019年までGoogleの信頼・安全担当副社長を務めたシーゲル氏は、AIがソーシャルメディアプラットフォームよりも若者にとって深刻な脅威となる可能性が高まっていると懸念を表明した。ソーシャルメディアプラットフォームは、未成年者への被害をめぐり、すでに数千件の訴訟や世界的な規制圧力に直面している。シーゲル氏は、大手AI企業が適切な安全対策を講じることなく、高度な機能を子どもたちに提供していると主張した。

「AIが子どもたちに与える影響という点で、私たちは本当に深刻な状況に置かれている」とシーゲル氏はロイター通信に語った。彼は「非常に深刻な被害シナリオ」について警告し、自殺、精神病、認知機能低下（AIへの過度な依存による批判的思考力の低下を指す用語）といったリスクを挙げた。

説明責任を推進する新たな役割

これらの懸念に対処するため、シーゲル氏は火曜日、非営利擁護団体Common Sense Mediaが新たに設立した「青少年AI安全研究所」の初代事務局長に就任したと発表した。この研究機関は、AnthropicやOpenAI Foundationといった業界関係者の支援を受け、自動車の衝突試験と同様に、子どもに対するAIツールのリスクを評価するための独立した基準を策定することを目指している。

Ad

シーゲル氏は、AI企業や第三者機関と協力して説明責任基準を策定することが目標だと述べた。彼は、テクノロジー業界がオンライン消費者の安全確保において「停滞」していると結論付け、2019年にGoogle（GOOGL）を退社した。

業界の対応と提案された対策

シーゲル氏は、たとえ短期的な利用や利益に影響が出たとしても、AI企業が若年ユーザーをより良く保護するために直ちに講じるべき措置を概説した。彼は、何もしなければ、将来の訴訟や規制によってより深刻な結果を招くリスクがあると指摘した。

• AnthropicとOpenAIは、未成年者がチャットボットにアクセスできないように、より厳格な年齢確認を導入できる。
• Googleは、既存の露骨なコンテンツに対するフィルターと同様に、検索結果にAI概要とAIモードをオフにする簡単な切り替え機能を追加できる。

これらのコメントに対し、Googleの広報担当者はロイター通信に対し、同社のペアレンタルコントロール機能を使えば、子供の検索エンジンへのアクセスを完全にオフにできると述べた。OpenAIの広報担当者は、同社は未成年ユーザーを特定するために、自己申告による年齢に加えて「アカウントと行動シグナル」を使用しており、システムを継続的に改善していると述べた。Anthropicは現時点でコメントを発表していない。