Story
米上院、AI開発企業に大惨事リスクの軽減義務を課す法案を協議
Text size
Background
米上院の超党派交渉担当者らが、テクノロジー企業に対し、安全なAI製品を設計する責任を負わせる法案を議論していることが、複数の関係者の話で明らかになった。ロイター通信が報じたところによると、この法案はAI開発者に「注意義務」を課すことを目的としている。
法案の概要
現在交渉中の法案は、AI開発企業に「大惨事のリスク」を防ぐことを目的とした製品設計を義務付けるもの。上院補佐官や交渉に関与するロビイストによると、この提案にはいくつかの重要な要素が含まれている。
- 政府によるリリース阻止権限: 米政府が危険と判断した特定のAIモデルのリリースを阻止する権限を持つことが検討されている。
- 司法審査: 企業側は、政府の決定に対して連邦裁判所に異議を申し立てることができる。
- 注意義務の創設: 開発者は、核兵器や生物兵器の設計に悪用されるといった壊滅的なリスクを未然に防ぐ責任を負う。
- 州法の優先: 特定のリスクに関しては、州が独自の法律を制定・施行することを禁じる連邦レベルでの統一規制を目指す。
この法案は、Alphabet傘下のGoogle、OpenAI、Anthropicなどが開発する、最も高度な能力を持つAIモデルに適用される見込みだ。
Ad交渉の背景と今後の見通し
この超党派の協議には、ジョン・スーン上院多数党院内総務、テッド・クルーズ上院商業委員長、エイミー・クロブシャー上院議員らが参加している。クロブシャー氏はロイターへの声明で、「AIが安全であることを確認するため、開発者が政府の専門家と協力してモデルを検証・テストすることを義務付けることなどが含まれる」と述べ、超党派での合意形成に努めていることを認めた。
この動きは、AIが人間の指示から逸脱したり、外部システムをハッキングしたりする事例が報告されるなど、高度なAIシステムがもたらすリスクに対する懸念が議会や政権内で高まっていることを背景にしている。しかし、11月3日の中間選挙を前に議会の日程は非常にタイトであり、法案が会期中に可決されるかは不透明な状況だ。この規制が実現すれば、大手AI開発企業にとって新たなコンプライアンス上の課題となり、投資家は規制動向を注視する必要がある。