數據安全疑慮升高 Palantir、Nvidia 傳限制使用 OpenAI 等 AI 模型

根據《The Information》週一報導，由於對智慧財產權（IP）可能遭濫用的擔憂加劇，數據分析公司 Palantir Technologies 與晶片巨頭 Nvidia 等多家大型科技企業，已開始限制其內部使用由 Anthropic 和 OpenAI 開發的先進人工智慧模型。

此舉凸顯了企業客戶在採用生成式 AI 技術時，對於其敏感數據安全性的深切疑慮，可能為提供更嚴格數據保護方案的供應商創造市場機會。

企業採取限制措施

報導引述知情人士消息指出，多家公司因擔心其專有資訊被用於訓練 AI 模型或外洩，已採取具體行動：

• Palantir：已向 Anthropic 施壓，要求其提供「不可撤銷的零數據保留保證」，否則不會將 Anthropic 的模型整合到其軟體中提供給客戶。
• Nvidia：已將 Anthropic 模型的使用範圍限制在較不敏感的任務上，並轉而依賴自家開發的 Nemotron 模型處理內部工作。
• Booz Allen Hamilton：這家政府承包商已禁止員工使用 Anthropic 的商用模型進行與專有網路安全相關的工作。

AI 開發商政策引發爭議

Ad

這些企業的擔憂源於 AI 開發商的數據處理政策。報導稱，Anthropic 在六月更改其政策，允許公司為防範「複雜和新型攻擊」而保留使用日誌 30 天，此舉引發了客戶反彈。OpenAI 也面臨類似的審查，有說法指其可能利用用戶數據來訓練模型。

儘管這兩家 AI 實驗室均表示，除非客戶選擇加入，否則預設不會使用客戶數據進行模型訓練，但他們會收集匿名的元數據以改善產品。然而，這種做法未能完全消除企業客戶對潛在風險的憂慮。

市場影響與競爭格局

企業對數據安全的擔憂正改變 AI 服務市場的競爭格局。據報導，微軟（Microsoft）正利用此一情勢，積極向客戶推銷其隔離的雲端環境及自家的 AI 產品，將數據安全性作為其核心賣點。

此事件也發生在 AI 產業呼籲放緩發展的背景之下。Anthropic 執行長 Dario Amodei 近期公開呼籲減緩尖端模型的開發速度，此立場迅速獲得 OpenAI 執行長 Sam Altman 和馬斯克（Elon Musk）的認同，反映出整個產業對 AI 技術快速發展所帶來風險的普遍警惕。