Story
OpenAIのアルトマンCEO、AI開発ペース減速を検討か 安全性への懸念強まる＝ブルームバーグ報道
ブルームバーグ通信が関係者の話として報じたところによると、米OpenAIのサム・アルトマン最高経営責任者（CEO）は、高性能化する人工知能（AI）システムの安全性への懸念が強まる中、最先端AIの開発ペースを減速させることを検討している。この構想は、他のAI研究所との協調で行われる可能性も示唆されたという。
背景：高まる安全性への懸念
この議論は、今週開かれた社内会議でアルトマン氏が提起したとブルームバーグは伝えている。業界全体でAIの安全性に対する懸念がエスカレートしており、複数のAI企業が自主的に開発を抑制する案が浮上しているが、一部の研究所が同意しない可能性もある。
OpenAIのチーフサイエンティストであるヤクブ・パチョッキ氏は最近、共通の安全基準が確立されるまで自主的な減速を呼びかけ、「どの企業も、自社の安全対策能力がAIシステムの能力向上ペースに追いつくと想定することはできない」と警告した。AnthropicやGoogle DeepMindの研究者も、AI開発のペースについて公に懸念を表明している。
具体的な動きと規制当局の監視
OpenAIはすでに開発ペースを抑制するいくつかの措置を講じている。同社は8月、AIエージェントとHugging Faceが関与したインシデントを受け、最新モデルの強化学習トレーニングを2週間停止したと発表。セキュリティ、監視、アライメント（AIの価値観を人間に合わせる技術）の保護措置を強化した。計画されていた最大規模のフロンティアモデルの強化学習も、さらなるテスト待ちで保留されている。
Adこうした動きと並行して、米国の規制当局も監視を強めている。米上院は、Hugging Faceの情報漏洩インシデントに関するOpenAIの対応について調査を開始した。OpenAI自身も議会に対し、独立した評価、サイバーセキュリティ対策、インシデント報告などを含む、国家レベルでの強制的なAI安全要件の確立を促している。
市場への影響と今後の展望
この議論は、OpenAIと競合のAnthropicが株式公開（IPO）の準備を進めているタイミングで表面化した。そのため、急速なAIの進歩がもたらす商業的価値と、より強力なシステムを開発することに伴うコストやリスクとの間で、各社がどのようにバランスを取るかについて、投資家の注目は一層高まっている。
開発ペースの自主的な減速は、長期的なリスクを軽減する可能性がある一方、短期的な開発スケジュールや市場での競争力に影響を与える可能性がある。投資家は、AI業界のリーダーたちが商業的利益と倫理的責任のバランスをどのように取るかを注視していくだろう。