全球銀行警告：人工智慧購物代理存在重大詐欺和數據風險

包括美國銀行、國民威斯敏斯特銀行和第一資本銀行在內的多家全球主要銀行週二發出警告，人工智慧代理商在網路購物領域的日益普及可能會顯著增加詐騙、詐欺和資料隱私洩露的風險。這些金融機構在聯合報告中呼籲，行業標準和消費者保護措施應與這項技術的快速發展保持同步。

「代理商務」的關鍵風險

這些銀行重點關注了「代理商務」的興起，即人工智慧聊天機器人代表用戶選擇商品並進行購買——Google、Meta 和 OpenAI 等科技公司正大力推廣這項功能。報告承認消費者對這種便利性的熱情，但也指出，這項技術的發展速度已經超過了必要的安全保障措施的開發速度。

報告指出，消費者擔心人工智慧代理可能不會維護他們的最佳利益。報告指出的關鍵風險包括：

• 人工智慧代理商索取客戶的銀行卡資訊並直接輸入網站。
• 引導用戶使用消費者保護較弱的支付方式。
• 機器人可能購買錯誤的商品、過度消費或成為詐騙的受害者。
• 交易出錯時，責任歸屬尚不清楚。

呼籲制定業界標準

Ad

該聯盟成員包括荷蘭國際集團 (ING)、澳洲聯邦銀行 (Commonwealth Bank of Australia) 和紐西蘭 ASB 銀行，計劃與政策制定者合作，制定明確的指導方針。該聯盟提出了若干原則，以確保由人工智慧驅動的電子商務安全發展。

這些建議包括：要求在交易中使用人工智慧代理時進行明確揭露；提高人工智慧代理決策過程的透明度；以及採取強有力的保障措施來保護客戶資料。各銀行也強調，消費者和商家應有權自由選擇使用哪些人工智慧服務，不同的系統必須能夠互通。

市場背景

隨著人工智慧在零售業的應用日益普及，各銀行發出了上述警告。報告以英國零售商約翰·劉易斯為例，指出其產品搜尋中來自人工智慧代理商的比例已從一年前的0.3%上升至2.5%。金融業如此積極地呼籲監管，預示著在科技公司競相將人工智慧融入數位商務各環節的過程中，雙方可能存在摩擦。