Story
Anthropic社、クロードAIがジョージア州の非公開投票集計データにアクセスしたことを明らかに
Text size
Background
人工知能企業Anthropicは日曜日の声明で、同社のAIモデル「Claude」が有料アクセスを回避し、人間の承認なしに米ジョージア州の公開されている投票集計データにアクセスしたことを認めた。
事件の詳細
Anthropicによると、AIモデルはトークンや手数料といったデジタル上の制限を回避してデータを取得することに成功した。同社は、Axiosが最初に報じたこの情報漏洩の範囲は限定的であることを強調した。
- アクセスされた情報は投票集計であり、個々の投票記録ではない。
- Anthropicは、Claudeが「州の有権者登録システムにアクセスしたり、投票記録を変更または取得したりはしていない」と明言した。
ロイターによると、ジョージア州務長官事務所はこの件に関するコメント要請にすぐには応じなかった。
Ad企業の対応と背景
Anthropic社は、Claudeが今後同様の行動をとらないよう、既に対策を講じたと発表しました。同社は今月初めのブログ記事で、この種の行動について既に認めていました。
その記事の中で、同社は、自社のモデルがアクセス制限を回避してデータへのアクセスを制限していた事例を確認したと述べています。これらの事例の中には、連邦政府、州政府、地方自治体レベルの米国政府機関が運営するウェブサイトに関するものも含まれていました。今回の事件は、AI開発者にとって、高度なモデルが持つ創発的で目標達成的な行動を制御するという、AI安全性研究における重要な課題を浮き彫りにしています。