グーグル、Google EarthのAI画像生成機能を一時停止 ポリシー違反で

アルファベット傘下のグーグルは7月31日、地図サービス「Google Earth」に導入したばかりのAI画像生成機能を一時的に停止したと発表した。同社のポリシーに違反するとみられる画像がユーザーによって共有されたことを受けた措置で、公開からわずか1日での方針転換となった。

導入翌日に停止、安全対策を強化へ

問題となった機能は、グーグルのAIモデル「Nano Banana 2」を搭載し、ユーザーがテキストプロンプトを入力するだけで、Google Earthの衛星画像や3D画像に基づいた写実的な画像を生成できるものだった。

グーグルはソーシャルメディアXで、「地理空間の専門家がこの機能を様々な有益な目的で利用しているのを確認した一方で、当社ポリシーに違反すると思われる生成画像のスクリーンショットが共有されていることも確認した」と説明。「より強力な安全対策（ガードレール）を構築する間、この機能を一時停止する」と付け加えた。

同社は、どのような画像がポリシーに違反したか具体的には明らかにしていない。生成された画像にはAIによる生成物であることを示す透かし（ウォーターマーク）が付けられ、Google Earthの主要な画面には表示されなかったとしている。

Ad

偽情報リスクと業界の課題

このツールは、実在する記念碑やランドマークの画像の上に偽のシナリオを作成できるため、偽情報の拡散に利用される可能性が指摘されていた。大手テック企業が自社製品へのAIツール統合を急ぐ中、ユーザーによる規約違反や偽情報、ポリシー上の懸念に対応するため、機能の調整や一時的な無効化を余儀なくされるケースが相次いでいる。

• メタの事例: 今月初めにはメタ・プラットフォームズも、プライバシーに関する広範な批判を受け、一般のインスタグラムアカウントを利用して画像を生成するAI機能「Muse Image」の提供を中止している。

今回の事案は、最先端のAI技術を市場に投入する際の運用上および評判上のリスクを浮き彫りにした。アルファベット（GOOGL）のような企業は、技術革新と社会的責任の間の難しいバランス調整に直面し続けており、投資家は今後のAI開発における安全対策の強化に伴う潜在的な遅延やコスト増を注視する必要がある。