Anthropic在IPO文件中警告稱，自主人工智慧存在「不可預測」的法律風險。

路透社所看到的資料顯示，人工智慧公司 Anthropic 已將其自主人工智慧技術可能帶來的法律責任列為一項重大風險因素。該公司在其首次公開發行（IPO）招股說明書中警告稱，其自主人工智慧代理商的行為可能導致公司面臨難以預料的法律索賠。

「智能體人工智慧」的未決責任

Anthropic 正在開發智慧型體人工智慧技術，該技術旨在長時間自主運行，並能深入存取客戶系統。該公司在文件中承認，如果人工智慧出現錯誤或被濫用，這些功能可能會造成嚴重的現實後果。

該公司特別指出，存在不可逆轉行為的風險，例如未經授權的金融交易或資料刪除。招股說明書指出，Anthropic 的合約責任限制可能“不足以或無法有效應對其自主代理引發的索賠”，這給這家即將上市的公司帶來了顯著的財務和法律不確定性。

更廣泛的監管問題

這項揭露凸顯了科技和法律領域一個尚未解決的關鍵性爭論：誰該為自主人工智慧系統造成的損害負責？ Anthropic 在文件中指出，一些關鍵的法律問題仍未得到解答，包括：

Ad

• 人工智慧代理人採取的行動在法律上應被視為產品、服務還是其他類別？
• 在何種情況下，人工智慧代理的行動可能對部署該代理的使用者**具有法律約束力？

美國聯邦貿易委員會主席安德魯·弗格森也表達了類似的擔憂。他最近表示，人工智慧工具造成的損害的責任很可能落在其開發者或用戶身上，而不是人工智慧本身。人工智慧的法律待遇與歷史上線上平台因用戶生成內容而享有的豁免權截然不同，後者最近開始面臨法律挑戰。

關於有害模型使用的揭露

除了自主代理之外，Anthropic 還披露，儘管存在安全保障措施，其人工智慧模型仍被用於「可能導致自殘、暴力行為或其他不良後果」的方式。這與競爭對手 OpenAI 面臨的法律挑戰類似，OpenAI 正面臨多起訴訟，這些訴訟指控其 ChatGPT 與心理健康損害和自殺有關。

法院近期展現出追究科技公司平台設計責任的意願，例如在 Meta Platforms 和 Google 因社群媒體產品設計疏忽而被判承擔責任的里程碑式審判中。如果人工智慧模型與不良用戶後果相關，這項法律先例可能預示著人工智慧開發者將面臨嚴峻的挑戰。