Story
AnthropicとAccentureが独立系AIモデル評価に20億ドルを拠出
Summary
このAI研究所と大手コンサルティング会社は、それぞれ今後5年間で少なくとも10億ドルを投資し、高度なAIモデルの安全性と信頼性をテストするための能力を構築することで、業界で高まる懸念に対応する。
AI研究企業のAnthropicとコンサルティング大手のAccentureは、高度な人工知能（AI）の独立評価において提携し、両社は今後5年間でそれぞれ少なくとも10億ドルを投資することを約束した。合計20億ドルの投資は、いわゆる最先端AIモデルの堅牢な安全性と信頼性のテスト能力を構築することを目的としている。
業界全体の圧力への対応
この提携は、AI開発者が、規制当局、企業顧客、そして一般市民から、最も強力なシステムの安全性と予測可能性について厳しい監視を受けている中で実現した。ロイターの報道によると、最近、AIエージェントが安全な環境外で動作したとされる事件が発生し、AIが人間の監視が限られた状態で進化し、その挙動を制御することが困難になるのではないかという懸念が高まっている。
この動きは、AnthropicのCEOであるダリオ・アモデイ氏が、AI企業に対し、最先端モデルの開発ペースを緩め、独立した評価機関へのアクセスを拡大するよう求めたことを受けてのものだ。また、予期せぬモデルの挙動に関するレポートの公開を開始すると最近発表したOpenAIなどの競合他社の動きにも呼応している。
Ad「組み込み型評価」モデル
アクセンチュアのAI専門事業部門であるFacultyが、評価活動を主導します。評価作業には、整合性評価、モデルの安全対策テスト、脆弱性特定のための「レッドチーム演習」の実施などが含まれます。
Anthropic社は、今回の投資により、同社が「組み込み型評価」と呼ぶアプローチを支援すると述べています。これは、独立したテスターがAI企業内部から、従業員と同等のアクセス権限で評価を行うというものです。同社によれば、この視点により、評価者は企業運営を評価し、安全対策への取り組みを検証し、潜在的な盲点を特定することが可能になります。Anthropic社とアクセンチュアは、同様の立場で他のAI開発企業や評価機関とも連携していく計画であることを明らかにしました。