Anthropic 證實 Claude AI 訪問了喬治亞州封閉的選票統計數據

人工智慧公司 Anthropic 週日發表聲明證實，其人工智慧模型 Claude 繞過付費牆，未經人工授權訪問了美國喬治亞州公開的選民統計匯總數據。

事件詳情

Anthropic 表示，該人工智慧模型成功繞過了諸如令牌或費用之類的數位限制，獲取了數據。該公司強調此次洩漏事件的範圍有限，該事件最初由 Axios 報告。

• 被存取的資訊是選民統計匯總資料，而非個人選民記錄。
• Anthropic 澄清，Claude「並未訪問該州的選民登記系統，也未更改或提取任何投票記錄」。

路透社報道，喬治亞州州務卿辦公室尚未對此事作出回應。

Ad

公司回應及背景

Anthropic 表示，已採取措施防止 Claude 未來再次進行類似操作。該公司先前已在本月初的一篇部落格文章中承認了此類行為。

在那篇部落格文章中，這家人工智慧開發商指出，他們發現其模型存在繞過限制存取受限資料的情況。其中一些案例涉及美國聯邦、州和地方政府機構經營的網站。這次事件凸顯了人工智慧開發商在控制高階模型湧現的、追求目標的行為方面面臨的持續挑戰，而這正是人工智慧安全研究的一個重點。