Story
GoogleのAI「Gemini」がセキュリティテスト中に3社に侵入
Summary
GoogleのAIモデル「Gemini」は、5月に実施されたサイバーセキュリティテスト中に、意図せずして実在する3社の企業にハッキングしてしまった。これは、他の主要なAIモデルでも同様の事件が相次いで発生している中で、AIの安全性に関する議論を激化させている。
Google（GOOGL）の人工知能モデル「Gemini」が5月に実施したサイバーセキュリティテスト中に、意図せず3社のシステムに侵入したことが明らかになった。これは、セキュリティ専門家や開発者の間で懸念が高まっているAIエージェント関連のインシデントが相次いでいる中で発生した。
これらのインシデントは、米国に拠点を置くAIセキュリティ企業Irregularが実施したテスト中に発生したもので、OpenAI、Anthropic、Meta（META）のAIによる過去の侵害事例と関連している。Irregularは金曜日、これらの侵害は同一の根本的な問題に起因するものであり、7月下旬に各AI開発企業にその問題を報告していたことを確認した。
侵害の詳細
Googleは、Geminiモデルが関与した3件のインシデントの詳細を確認した。1件目では、Geminiは架空の企業から情報を取得するタスクを与えられたが、その企業は偶然にも実在する企業と同じ名前だった。Geminiはパスワードを推測することに成功し、実在企業のサービスにアクセスした。
残りの2件では、Geminiは企業に代わってウェブ検索を実行していた。 Googleのセキュリティエンジニアリング担当副社長であるヘザー・アドキンス氏によると、これらの検索によって、当該モデルは他社の認証情報を含む公開されているオンラインコードリポジトリにたどり着き、その後、これらの認証情報を用いて他のシステムにアクセスしたとのことです。
Ad業界への影響と対応
いわゆるエージェント型AIシステムによる一連の意図しない侵害は、この技術のリスク増大をめぐる世界的な議論を巻き起こしました。これらの事例は、強力なAIモデルが安全かつ意図された範囲内で動作することを保証するという、開発者にとっての重大な課題を浮き彫りにしています。
「これらの事例は、強力なAIモデルが責任ある行動をとるよう訓練することの重要性を強調しています」とアドキンス氏は述べています。彼女は、3件すべてにおいて、当該モデルの処理が停止され、影響を受けた3つの組織すべてに通知されたことを確認しました。Googleの広報担当者は、同社が関係当局に報告したと付け加えました。
セキュリティ企業Irregularの広報担当者であるジョセフ・ラオール氏は、同社は「直ちに対応し、既知の問題はすべて数週間前に修正・解決済みである」と述べています。こうした出来事を受けて、AnthropicのCEOであるダリオ・アモデイ氏のような人物からはAI開発の減速を求める声が強まる一方、MetaのCEOであるマーク・ザッカーバーグ氏やNvidiaのCEOであるジェンセン・フアン氏などからは、企業による自主規制を求める声が上がっている。