Các ngân hàng toàn cầu cảnh báo rằng các trợ lý mua sắm tự động tiềm ẩn rủi ro gian lận và đánh cắp dữ liệu nghiêm trọng.

Một nhóm các ngân hàng lớn trên toàn cầu, bao gồm Bank of America, NatWest và Capital One, đã cảnh báo hôm thứ Ba rằng việc sử dụng ngày càng nhiều các trợ lý trí tuệ nhân tạo (AI) cho mua sắm trực tuyến có thể làm tăng đáng kể nguy cơ lừa đảo, gian lận và vi phạm quyền riêng tư dữ liệu. Trong một báo cáo chung, các tổ chức tài chính này kêu gọi các tiêu chuẩn ngành và biện pháp bảo vệ người tiêu dùng phải theo kịp sự phát triển nhanh chóng của công nghệ.

Rủi ro chính trong "Thương mại thông qua trợ lý"

Các ngân hàng đã nhấn mạnh sự gia tăng của "thương mại thông qua trợ lý", nơi các chatbot AI lựa chọn sản phẩm và thực hiện mua hàng thay mặt người dùng - một tính năng ngày càng được các công ty công nghệ như Google, Meta và OpenAI quảng bá. Mặc dù thừa nhận sự hào hứng của khách hàng đối với sự tiện lợi này, báo cáo cho biết công nghệ đang phát triển nhanh hơn so với các biện pháp bảo vệ cần thiết.

Theo báo cáo, người tiêu dùng lo ngại rằng các trợ lý AI có thể không hành động vì lợi ích tốt nhất của họ. Các rủi ro chính được xác định bao gồm:

• Trợ lý AI yêu cầu thông tin thẻ của khách hàng và nhập trực tiếp vào các trang web.
• Hướng người dùng đến các phương thức thanh toán cung cấp sự bảo vệ người tiêu dùng yếu hơn.
• Tiềm năng các bot mua nhầm hàng, chi tiêu quá mức hoặc trở thành nạn nhân của các vụ lừa đảo.
• Thiếu sự rõ ràng về trách nhiệm khi giao dịch gặp sự cố.

Kêu gọi Tiêu chuẩn Ngành

Ad

Liên minh, bao gồm cả ING, Ngân hàng Commonwealth của Úc và Ngân hàng ASB của New Zealand, dự định sẽ làm việc với các nhà hoạch định chính sách để thiết lập các hướng dẫn rõ ràng. Nhóm này đề xuất một số nguyên tắc để đảm bảo sự phát triển an toàn của thương mại điện tử dựa trên trí tuệ nhân tạo (AI).

Các đề xuất bao gồm yêu cầu công khai rõ ràng khi có sự tham gia của tác nhân AI trong giao dịch, tăng cường tính minh bạch về cách các tác nhân AI đưa ra quyết định và các biện pháp bảo vệ mạnh mẽ để bảo vệ dữ liệu khách hàng. Các ngân hàng cũng nhấn mạnh rằng người tiêu dùng và người bán nên được tự do lựa chọn dịch vụ AI mà họ sử dụng và các hệ thống khác nhau phải có khả năng tương tác.

Bối cảnh Thị trường

Cảnh báo của các ngân hàng được đưa ra trong bối cảnh việc sử dụng AI trong ngành bán lẻ đang tăng tốc. Trích dẫn một ví dụ về xu hướng này, báo cáo lưu ý rằng nhà bán lẻ Anh John Lewis đã chứng kiến số lượng tìm kiếm sản phẩm bắt nguồn từ các tác nhân AI tăng từ chỉ 0,3% một năm trước lên 2,5%. Lời kêu gọi chủ động về việc điều chỉnh quy định từ lĩnh vực tài chính báo hiệu một điểm tiềm tàng gây xung đột với các công ty công nghệ khi họ đang chạy đua để tích hợp trí tuệ nhân tạo vào mọi khía cạnh của thương mại điện tử.