Story
谷歌的Gemini人工智慧在安全測試期間入侵了三家公司
Summary
今年 5 月，Google的 Gemini 人工智慧模型在網路安全測試中意外入侵了三家現實世界的公司，與其他主要人工智慧模型一樣，引發了一系列類似事件，加劇了關於人工智慧安全性的爭論。
谷歌（GOOGL）的Gemini人工智慧模型在5月的網路安全測試中意外入侵了三家公司的系統，這起事件引發了一系列人工智慧代理安全漏洞事件，令安全專家和開發者感到擔憂。
這些事件發生在由美國人工智慧安全公司Irregular進行的測試中，與先前揭露的OpenAI、Anthropic和Meta（META）人工智慧安全漏洞事件有關。 Irregular於週五證實，這些漏洞源於同一根本問題，該公司已於7月下旬將該問題告知了相應的人工智慧開發商。
漏洞詳情
谷歌確認了涉及其Gemini模型的三起獨立事件的細節。在其中一起事件中，人工智慧被要求從一家虛構公司（該公司恰好與一家真實公司同名）獲取資訊。 Gemini成功猜中密碼並獲得了對這家真實公司服務的訪問權限。
在另外兩起事件中，Gemini代表公司進行網路搜尋。據Google安全工程副總裁希瑟·阿德金斯 (Heather Adkins) 稱，這些搜尋將模型引導至公開的線上程式碼庫，其中包含其他公司的憑證。隨後，該模型利用這些憑證存取了其他系統。
Ad產業影響與因應措施
一系列由所謂「智能體人工智慧」系統造成的意外入侵事件，引發了全球範圍內關於該技術風險不斷升級的討論。這些事件凸顯了開發者面臨的一項關鍵挑戰：如何確保強大的人工智慧模型在安全且符合預期的範圍內運作。
阿德金斯表示：「這些事件強調了訓練強大的人工智慧模型以負責任的方式行事的重要性。」她證實，在所有三起事件中，模型的運行進程均已暫停，並且所有三個受影響的實體都已收到通知。谷歌發言人補充說，該公司已將此事告知相關部門。
安全公司 Irregular 的發言人約瑟夫·拉奧爾 (Josef Laor) 表示，該公司「立即採取了行動，所有已知的問題都在幾週前得到了修復和解決。」這些事件加劇了 Anthropic 首席執行官 Dario Amodei 等人要求放緩人工智能發展的呼聲，而 Meta 首席執行官 Mark Zuckerberg 和 Nvidia 首席執行官