全球银行警告：人工智能购物代理存在重大欺诈和数据风险

包括美国银行、国民西敏寺银行和第一资本银行在内的多家全球主要银行周二发出警告，人工智能代理在网络购物领域的日益普及可能会显著增加诈骗、欺诈和数据隐私泄露的风险。这些金融机构在一份联合报告中呼吁，行业标准和消费者保护措施应与这项技术的快速发展保持同步。

“代理商务”的关键风险

这些银行重点关注了“代理商务”的兴起，即人工智能聊天机器人代表用户选择商品并进行购买——谷歌、Meta 和 OpenAI 等科技公司正大力推广这项功能。报告承认消费者对这种便利性的热情，但也指出，这项技术的发展速度已经超过了必要的安全保障措施的开发速度。

报告指出，消费者担心人工智能代理可能不会维护他们的最佳利益。报告指出的关键风险包括：

• 人工智能代理索取客户的银行卡信息并直接将其输入网站。
• 引导用户使用消费者保护力度较弱的支付方式。
• 机器人可能购买错误的商品、过度消费或成为诈骗的受害者。
• 交易出错时，责任归属尚不明确。

呼吁制定行业标准

Ad

该联盟成员包括荷兰国际集团 (ING)、澳大利亚联邦银行 (Commonwealth Bank of Australia) 和新西兰 ASB 银行，计划与政策制定者合作，制定明确的指导方针。该联盟提出了若干原则，以确保人工智能驱动的电子商务安全发展。

这些建议包括：要求在交易中使用人工智能代理时进行明确披露；提高人工智能代理决策过程的透明度；以及采取强有力的保障措施来保护客户数据。各银行还强调，消费者和商家应有权自由选择使用哪些人工智能服务，并且不同的系统必须能够互操作。

市场背景

随着人工智能在零售业的应用日益普及，各银行发出了上述警告。报告以英国零售商约翰·刘易斯为例，指出其产品搜索中来自人工智能代理的比例已从一年前的0.3%上升至2.5%。金融业如此积极地呼吁监管，预示着在科技公司竞相将人工智能融入数字商务各个环节的过程中，双方可能存在摩擦。