因内容违规，谷歌暂停地球应用中的AI图像生成功能

Alphabet旗下谷歌（Google）周五宣布，将暂停其在谷歌地球（Google Earth）中一项新推出的人工智能（AI）图像生成功能。此前，有用户利用该功能生成并分享了似乎违反该公司政策的图片，引发了外界对虚假信息传播的担忧。

功能上线一日即遭下架

这项功能于一天前刚刚上线，由谷歌的 Nano Banana 2 AI模型 提供支持。它允许用户通过输入文本提示，在谷歌地球的卫星、航拍和3D图像基础上，为全球任何地点生成逼真的图像。

然而，该工具很快便受到批评，因为它可能被用于制造虚假信息。用户可以在真实的地标和古迹图像上叠加伪造的场景。谷歌在社交平台X上表示：“我们看到地理空间专业人士将此功能用于一系列有益的目的，但我们也看到有人分享的生成图像似乎违反了我们的政策。”

谷歌补充说，公司正在暂停该功能，以便“研究更强的护栏”。该公司并未具体说明哪些类型的图像违反了其政策，但指出这些生成图像带有AI生成的水印，并且不会出现在谷歌地球的主要体验中。

Ad

AI治理成行业普遍挑战

此次事件凸显了科技行业在竞相将AI工具整合到其产品中所面临的普遍困境。为了应对用户违规、虚假信息和政策问题，科技巨头不得不频繁调整、限制甚至暂时禁用某些AI功能。

这并非孤例。例如，Meta本月早些时候也停止了其名为“Muse Image”的AI功能。该功能允许用户利用公开的Instagram账户生成图片，但在引发了包括好莱坞工会在内的广泛隐私担忧后被叫停。

对投资者而言，此类事件虽然对公司短期股价影响有限，但揭示了部署生成式AI技术所伴随的运营和声誉风险。如何建立有效的审核与控制机制，将是决定这些公司能否在AI时代取得长期成功的关键因素之一。