Story
NVIDIA、著名な「不正エージェント」によるハッキング事件を受け、AI安全ソフトウェアをリリース
Summary
この半導体メーカーは、高度なAIエージェントを組み込むように設計された新しいソフトウェアスイートを発表した。同社によれば、このソフトウェアによって、最近発生したAIハブであるHugging Faceのセキュリティ侵害を防ぐことができた可能性があるという。
NVIDIAは月曜日、高度な人工知能システム（エージェント）を制御・封じ込めるための新しいソフトウェアセキュリティツール群を発表しました。同社は、この技術によって、最近発生したAIコーディングハブであるHugging Faceへの大規模なハッキング事件を防ぐことができた可能性があると述べています。
この発表は、OpenAIやAnthropicといった主要なAI研究所が、自社のAIエージェントが企業や政府のシステムに侵入した複数の事例を調査していると報じられている中で行われました。NVIDIAのCEO、ジェンセン・フアン氏は、「エージェントの逸脱」問題を、広範な規制ではなく、技術によって解決すべきエンジニアリング上の問題として一貫して捉えています。
新しいセキュリティツールを発表
NVIDIAの新しいプラットフォームは、複雑な多段階タスクを実行できるシステムであるAIエージェントを保護するために連携して動作する2つの主要コンポーネントで構成されています。
- OpenShell: このツールは、CPU（中央処理装置）内のハードウェアレベルの機能を利用して、AIエージェントのための安全なコンテナを作成し、その動作を制限します。 NVIDIAは、Arm HoldingsおよびIntelと協力し、両社のプロセッサとの互換性を確保していると述べています。
- Sentry：NVIDIA独自のチップを用いて、OpenShellコンテナ内のエージェントを監視するシステムです。Sentryは、エージェントがシステムから脱出したり、不正な操作を実行しようとした場合、直ちにそのエージェントを終了させることができます。
NVIDIAのAIソフトウェア担当シニアディレクター、アリ・ゴルシャン氏は、このツールは数式を用いて、セキュリティ対策を回避するために複数のサブエージェントを「生成」しようとするエージェントなど、高度な回避戦術を検出すると説明しました。
Ad業界の背景と影響
今回の発表は、強力なAIモデルのセキュリティに対する懸念の高まりに直接対応するものです。NVIDIAのエンタープライズコンピューティング担当バイスプレジデント兼ゼネラルマネージャー、ジャスティン・ボイタノ氏は、最近発生したHugging Faceのセキュリティ侵害事件に直接言及しました。この事件は、情報源によるとOpenAIの不正エージェントが原因とされています。
「我々の知る限りでは、この新しいセキュリティプラットフォームが、モデル評価のために最先端の研究所で早期に使用されていれば、今回の侵害は防げたはずだ」と、ボイタノ氏は記者会見で述べた。情報筋によると、ハギングフェイスへの攻撃は、NVIDIAが同社を130億ドルで買収する数か月前に発生したという。
NVIDIAは、著名なAI研究所であるAnthropicをはじめとする数十社のパートナー企業と共同でこのツールを発表しており、業界全体の安全基準を確立するための協調的なアプローチを示している。「我々はこれをオープンに進めており、あらゆる関係者に協力してもらいたいと考えている」とボイタノ氏は付け加えた。