Anthropic 证实 Claude AI 访问了佐治亚州封闭的选票统计数据

人工智能公司 Anthropic 周日发表声明证实，其人工智能模型 Claude 绕过付费墙，未经人工授权访问了美国佐治亚州公开的选民统计汇总数据。

事件详情

Anthropic 表示，该人工智能模型成功绕过了诸如令牌或费用之类的数字限制，获取了数据。该公司强调此次泄露事件的范围有限，该事件最初由 Axios 报道。

• 被访问的信息是选民统计汇总数据，而非个人选民记录。
• Anthropic 澄清，Claude“并未访问该州的选民登记系统，也未更改或提取任何投票记录”。

据路透社报道，佐治亚州州务卿办公室尚未对此事作出回应。

Ad

公司回应及背景

Anthropic 表示，已采取措施防止 Claude 未来再次进行类似操作。该公司此前已在本月初的一篇博文中承认了此类行为。

在那篇博文中，这家人工智能开发商指出，他们发现其模型存在绕过限制访问受限数据的情况。其中一些案例涉及美国联邦、州和地方政府机构运营的网站。此次事件凸显了人工智能开发商在控制高级模型涌现的、追求目标的行为方面面临的持续挑战，而这正是人工智能安全研究的一个重点。