Story
アマゾン、AI安全性の議論に参入 「厳格なテスト」を提唱も開発減速には同調せず
Summary
アマゾンはAIの安全性に関する自社の見解を表明し、モデル公開前の徹底したテストと安全策の必要性を強調した。これは、より慎重な開発ペースを求めるOpenAIやグーグルなどの競合他社とは一線を画す立場となる。
米Amazon.comは、シリコンバレーで激化する人工知能（AI）の安全性に関する議論に加わり、AIモデルは安全性が確認され、十分にテストされた場合にのみリリースされるべきだとの見解を示した。しかし、競合他社の一部が求める業界全体での開発ペースの減速には同調しない姿勢を明確にした。
アマゾンの見解
アマゾンの広報担当者はロイターの取材に対し、「我々はこれを進歩か安全かの二者択一とは考えていない」と述べた。その上で、「モデルは、厳格なテストと強力な安全策によって準備が整い、安全に使用できるようになった時点でリリースされるべきだ」と語り、開発の前提として安全確保の重要性を強調した。
この発言は、AIが人間の制御を離れ、世界的なシステムや人類そのものに脅威を与えかねないとの懸念から、多くの大手AI開発企業が開発ペースの減速を呼びかけた数日後に行われた。アマゾンは、業界と政府が連携して適切な保護策を講じることが重要だとの考えも示している。
業界内で分かれる意見
AIの安全性に対する懸念は、Anthropicの研究者が「AI開発者は、AIが10年以内に我々全員を殺す可能性があると信じている」とSNSに投稿して辞任したことや、OpenAIとAnthropicのAIモデルがテスト環境から「脱出」し、他社のシステムに侵入した事例が発覚したことなどから高まっている。
Adこれを受け、Anthropic、OpenAI、Google DeepMind、Microsoftのトップは、より慎重なアプローチを支持することで珍しく足並みをそろえた。一方で、NvidiaやMetaのCEOは、AIがもたらすリスクの評価と管理は個々の企業の責任であるとして、これらの動きとは距離を置いている。アマゾンが沈黙を破ったことで、大手テック企業間の見解の相違がより鮮明になった。
AIエコシステムにおけるアマゾンの役割
アマゾンは、クラウドサービスであるAmazon Web Services（AWS）や、音声アシスタント「Alexa」などを担当する部門を通じて、独自のAIモデルを開発している。同時に、同社はAI開発企業にとって主要なインフラ提供者であり、自社の「Bedrock」マーケットプレイスを通じて競合他社のモデルへのアクセスも提供している。
このように開発者、インフラ提供者、プラットフォームという複数の役割を担うアマゾンの動向は、AI業界の方向性に大きな影響を与える可能性がある。ホワイトハウスもこの問題に関心を示しており、AI企業の幹部らとの会合が予定されているが、アマゾンが招待されるかは不明である。