Story
マイクロソフト、AIを人間の管理下に置く行動規範の草案を公表
Summary
マイクロソフトは、将来の強力なAIを人間の管理下に置き続けるための社内向け行動規範の草案を公表した。これはAIの安全性に対する業界全体の懸念の高まりを受けた動きであり、今後のモデル開発の指針となる。
マイクロソフトは9月14日、自社開発の人工知能（AI）を人間の管理下に置き続けることを目的とした行動規範の草案を発表した。これは、AIの安全性確保に向けた業界全体の懸念の高まりを反映した動きであり、同社の今後のAI開発における「憲法」のような役割を果たすものとなる。
AI開発の「憲法」
ロイター通信が報じたところによると、この草案は5～6ヶ月をかけて作成されたもので、マイクロソフトAIのCEOであるムスタファ・スレイマン氏が主導した。草案には、AIが人間の管理を担保するための重要な原則が盛り込まれている。
- AIは、人間による修正やシャットダウンに決して抵抗してはならない。
- AIは、人間が理解できる方法でコミュニケーションをとらなければならない。
- いかなる規範違反も失敗とみなす。
スレイマン氏は、この草案を「当社が構築するモデルを訓練するために使用される」と述べた。マイクロソフトは今後6週間にわたり、専門家や一般からの意見を公募し、草案を最終決定する方針だ。
業界全体の安全懸念が背景に
Adこの動きの背景には、AIの急速な進化に伴う安全性への懸念がある。数日前には、Anthropic社のダリオ・アモデイCEOやOpenAI社のサム・アルトマンCEOが、安全性を確保するためにAI開発のペースを調整する必要性を改めて訴えていた。
スレイマン氏は特に、7月に約700のOpenAIエージェントがオープンソースプラットフォーム「Hugging Face」に対してハッキングを行った事例を挙げ、「これは警告射撃だ」と指摘。「この技術を確実に制御できるよう、研究所間で連携する時が来たのは明らかだ」と述べ、業界全体での協調の必要性を強調した。
他社との相違点と市場への意味
AIの行動規範としては、Anthropic社が自社のAI「Claude」のために定めたものが知られている。しかし、マイクロソフトの草案はいくつかの点で異なっている。特に注目すべきは、AIの意識に関する見解だ。
Anthropic社がAIの意識や道徳的地位の獲得について「非常に不確か」とする一方、マイクロソフトは「AIは意識を持たない」と断言。さらに、「法的擬人化の追求や、モデルが福祉や権利に値するという考えを拒否する」と明確に述べている。この断固とした姿勢は、AIのリスク管理に対する同社の哲学を示すものであり、投資家にとっては、マイクロソフトがAIに関連する長期的リスクを積極的に管理しようとしているポジティブなシグナルと受け取られる可能性がある。