Bank-bank Global Memperingatkan Agen Belanja AI Menimbulkan Risiko Penipuan dan Data yang Signifikan

Sekelompok bank global besar, termasuk Bank of America, NatWest, dan Capital One, memperingatkan pada hari Selasa bahwa meningkatnya penggunaan agen kecerdasan buatan (AI) untuk belanja online dapat secara signifikan meningkatkan risiko penipuan, kecurangan, dan pelanggaran privasi data. Dalam laporan bersama, lembaga keuangan tersebut menyerukan agar standar industri dan perlindungan konsumen mengikuti perkembangan teknologi yang pesat.

Risiko Utama dalam 'Perdagangan Agen'

Bank-bank tersebut menyoroti meningkatnya "perdagangan agen," di mana chatbot AI memilih produk dan melakukan pembelian atas nama pengguna—fitur yang semakin dipromosikan oleh perusahaan teknologi seperti Google, Meta, dan OpenAI. Meskipun mengakui antusiasme pelanggan terhadap kemudahan tersebut, laporan tersebut menyatakan bahwa teknologi tersebut melampaui perkembangan perlindungan yang diperlukan.

Menurut laporan tersebut, konsumen khawatir bahwa agen AI mungkin tidak bertindak untuk kepentingan terbaik mereka. Risiko utama yang diidentifikasi meliputi:

• Agen AI meminta detail kartu pelanggan dan memasukkannya langsung ke situs web.
• Mengarahkan pengguna ke metode pembayaran yang menawarkan perlindungan konsumen yang lebih lemah.
• Potensi bot untuk membeli barang yang salah, menghabiskan uang berlebihan, atau menjadi korban penipuan.
• Kurangnya kejelasan tentang siapa yang bertanggung jawab ketika transaksi salah.

Seruan untuk Standar Industri

Ad

Koalisi, yang juga mencakup ING, Commonwealth Bank of Australia, dan ASB Bank Selandia Baru, berencana untuk berinteraksi dengan para pembuat kebijakan untuk menetapkan pedoman yang jelas. Kelompok ini mengusulkan beberapa prinsip untuk memastikan pengembangan e-commerce bertenaga AI yang aman.

Usulan tersebut mencakup persyaratan pengungkapan yang jelas ketika agen AI terlibat dalam transaksi, transparansi yang lebih besar tentang bagaimana agen AI membuat keputusan, dan perlindungan yang kuat untuk melindungi data pelanggan. Bank-bank tersebut juga menekankan bahwa konsumen dan pedagang harus bebas memilih layanan AI mana yang mereka gunakan dan bahwa sistem yang berbeda harus dapat saling beroperasi.

Konteks Pasar

Peringatan bank-bank tersebut muncul seiring dengan percepatan penggunaan AI di sektor ritel. Mengutip satu contoh tren tersebut, laporan itu mencatat bahwa peritel Inggris John Lewis telah melihat pencarian produk yang berasal dari agen AI meningkat menjadi 2,5% dari hanya 0,3% setahun sebelumnya. Seruan proaktif untuk regulasi dari sektor keuangan ini menandakan potensi titik gesekan dengan perusahaan teknologi saat mereka berlomba untuk mengintegrasikan AI ke dalam setiap aspek perdagangan digital.