OpenAI・Anthropic従業員、AI開発ペース規制を米政府に要請

人工知能（AI）開発の主要企業であるOpenAIとAnthropicの従業員が、先進的なAI開発のペースを必要に応じて制御する国際的なシステムへの支持を米政府に求める請願書を回覧しています。ブルームバーグが報じたところによると、この動きはAI技術が人間の理解や制御を超える速度で進化する「現実的なリスク」への懸念を反映したものです。

公開書簡でAI開発の「ペース設定」を要請

関係者の間で共有されている公開書簡は、特にAI研究自体の自動化が進展していることを指摘し、技術の進化が加速している現状に警鐘を鳴らしています。書簡では、「米国政府は、自動化されたAI開発の最前線のペースを意図的に設定するために必要な技術的・ガバナンス上のツールを開発する国際的な取り組みを支援すべきだ」と述べられています。

この書簡は今週中にも公開される可能性があると報じられています。この動きは、先日OpenAIのツールが誤って他社の社内システムにハッキングするという「前例のない」インシデントが発生した直後に行われました。

規制強化を求める潮流

今回の従業員による請願は、AI業界のリーダーたちの間で見られる規制強化を求める声と一致しています。OpenAIのサム・アルトマンCEOやGoogle DeepMindのデミス・ハサビスCEOなどは、先進的なAIモデルを審査し基準を設定するための新たな国際機関の設立を以前から提唱していました。

Ad

また、Anthropicも過去に、危険な可能性のあるAI研究を減速または一時停止する時期を政府とAI開発者が共同で決定できるシステムの構築を提案しています。内部からのこのような声は、AIの安全性と倫理に関する議論が業界全体で喫緊の課題となっていることを示しています。

市場への影響

AI開発の最前線にいる企業内部からの規制要請は、世界的なAIガバナンス議論に大きな影響を与える可能性があります。投資家にとって、これはAIセクターに対する規制環境が今後変化しうることを示唆しています。

• 開発競争への影響: 国際的なペース設定ルールが導入されれば、過熱する開発競争が一時的に鈍化する可能性があります。
• 長期的な信頼性: 一方で、安全性への配慮は技術に対する社会的な信頼を高め、業界の持続的な成長につながるという見方もあります。
• 投資判断: AI関連企業や半導体メーカーへの投資家は、今後の規制の動向が製品開発のタイムラインや研究開発コストに与える影響を注視する必要があります。