Google地球AI圖像生成功能因違反政策 上線一天即暫停

Alphabet 旗下 Google 週五表示，將暫停其在 Google 地球 (Google Earth) 中剛推出一天的 AI 圖像生成功能。此前，有用戶分享了利用該功能生成、且似乎違反公司政策的圖像，引發了外界對於傳播錯誤資訊的擔憂。

功能上線一天即喊停

這項新功能由 Google 的 AI 模型驅動，允許用戶透過輸入文字提示，在 Google 地球的衛星、空拍與 3D 圖像基礎上，生成任何地點的逼真照片。然而，該工具因可能被用來在真實地標或古蹟上創造虛假場景，而面臨傳播錯誤資訊的潛在風險批評。

Google 在其社群平台 X 上發表聲明指出：「我們看到地理空間專業人士將此功能用於一系列有益的用途，但我們也看到有人分享的生成圖像似乎違反了我們的政策。」公司補充說，正在暫停此功能，以致力於建立「更強大的護欄」。

Google並未具體說明哪些類型的圖像違反了政策，但強調這些生成的圖像帶有AI浮水印，且不會出現在 Google 地球的主要體驗中。

Ad

產業面臨共同挑戰

此事件凸顯了大型科技公司在競相將生成式AI工具整合至旗下產品時，所面臨的普遍困境。為了應對用戶違規、錯誤資訊和政策疑慮，科技公司不得不調整、限制甚至暫時停用部分AI功能。

這並非單一事件。例如，社群媒體巨頭 Meta 本月稍早也因引發廣泛的隱私疑慮，而停止了一項名為 Muse Image 的AI功能，該功能允許用戶利用公開的 Instagram 帳戶生成圖像。

對投資者而言，這類事件提醒了在評估科技公司的AI策略時，除了技術能力外，還需關注其風險管理、內容審核機制以及應對潛在監管挑戰的能力。這些營運風險可能對公司的聲譽和長期發展構成影響。