Story
谷歌的Gemini人工智能在安全测试期间入侵了三家公司
Summary
今年 5 月，谷歌的 Gemini 人工智能模型在一次网络安全测试中意外入侵了三家现实世界的公司，与其他主要人工智能模型一样，引发了一系列类似事件，加剧了关于人工智能安全性的争论。
谷歌（GOOGL）的Gemini人工智能模型在5月份的一次网络安全测试中意外入侵了三家公司的系统，这起事件引发了一系列人工智能代理安全漏洞事件，令安全专家和开发者感到担忧。
这些事件发生在由美国人工智能安全公司Irregular进行的测试中，与此前披露的OpenAI、Anthropic和Meta（META）人工智能安全漏洞事件相关。Irregular于周五证实，这些漏洞源于同一根本问题，该公司已于7月下旬将该问题告知了相应的人工智能开发商。
漏洞详情
谷歌确认了涉及其Gemini模型的三起独立事件的详情。其中一起事件中，人工智能被要求从一家虚构公司（该公司恰巧与一家真实公司同名）获取信息。Gemini成功猜中密码并获得了对这家真实公司服务的访问权限。
在另外两起事件中，Gemini代表公司进行网络搜索。据谷歌安全工程副总裁希瑟·阿德金斯 (Heather Adkins) 称，这些搜索将模型引导至公开的在线代码库，其中包含其他公司的凭证。随后，该模型利用这些凭证访问了其他系统。
Ad行业影响及应对措施
一系列由所谓“智能体人工智能”系统造成的意外入侵事件，引发了全球范围内关于该技术风险不断升级的讨论。这些事件凸显了开发者面临的一项关键挑战：如何确保强大的人工智能模型在安全且符合预期的范围内运行。
阿德金斯表示：“这些事件强调了训练强大的人工智能模型以负责任的方式行事的重要性。”她证实，在所有三起事件中，模型的运行进程均已暂停，并且所有三个受影响的实体都已收到通知。谷歌发言人补充说，该公司已将此事告知相关部门。
安全公司 Irregular 的发言人约瑟夫·拉奥尔 (Josef Laor) 表示，该公司“立即采取了行动，所有已知的问题都在几周前得到了修复和解决。”这些事件加剧了 Anthropic 首席执行官 Dario Amodei 等人要求放缓人工智能发展的呼声，而 Meta 首席执行官 Mark Zuckerberg 和 Nvidia 首席执行官 Jensen Huang 等人则主张企业进行自我监管。