Bank Global Memberi Amaran Ejen Beli-belah AI Menimbulkan Risiko Penipuan dan Data yang Ketara

Sekumpulan bank global utama, termasuk Bank of America, NatWest dan Capital One, memberi amaran pada hari Selasa bahawa penggunaan ejen kecerdasan buatan yang semakin meningkat untuk membeli-belah dalam talian boleh meningkatkan risiko penipuan, penipuan dan pelanggaran privasi data dengan ketara. Dalam laporan bersama, institusi kewangan menyeru piawaian industri dan perlindungan pengguna untuk mengikuti perkembangan pesat teknologi.

Risiko Utama dalam 'Perdagangan Ejen'

Bank-bank tersebut mengetengahkan kebangkitan "perdagangan ejen", di mana bot sembang AI memilih produk dan membuat pembelian bagi pihak pengguna—ciri yang semakin dipromosikan oleh syarikat teknologi seperti Google, Meta dan OpenAI. Walaupun mengakui semangat pelanggan terhadap kemudahan tersebut, laporan itu menyatakan bahawa teknologi tersebut mengatasi pembangunan perlindungan yang diperlukan.

Menurut laporan itu, pengguna bimbang bahawa ejen AI mungkin tidak bertindak demi kepentingan terbaik mereka. Risiko utama yang dikenal pasti termasuk:

• Ejen AI yang meminta butiran kad pelanggan dan memasukkannya terus ke laman web.
• Memandu pengguna ke arah kaedah pembayaran yang menawarkan perlindungan pengguna yang lebih lemah.
• Potensi bot untuk membeli barang yang salah, berbelanja berlebihan atau menjadi mangsa penipuan.
• Kekurangan kejelasan tentang siapa yang bertanggungjawab apabila transaksi menjadi salah.

Seruan untuk Piawaian Industri

Ad

Gabungan itu, yang juga merangkumi ING, Commonwealth Bank of Australia dan ASB Bank New Zealand, merancang untuk berinteraksi dengan pembuat dasar bagi mewujudkan garis panduan yang jelas. Kumpulan itu mencadangkan beberapa prinsip untuk memastikan pembangunan e-dagang berkuasa AI yang selamat.

Cadangan termasuk mewajibkan pendedahan yang jelas apabila ejen AI terlibat dalam transaksi, ketelusan yang lebih tinggi tentang cara ejen AI membuat keputusan dan perlindungan yang kukuh untuk melindungi data pelanggan. Bank-bank juga menekankan bahawa pengguna dan peniaga harus bebas memilih perkhidmatan AI yang mereka gunakan dan sistem yang berbeza mesti saling beroperasi.

Konteks Pasaran

Amaran bank datang ketika penggunaan AI dalam runcit semakin pantas. Memetik satu contoh trend tersebut, laporan itu menyatakan bahawa peruncit British John Lewis telah melihat carian produk yang berasal dari ejen AI meningkat kepada 2.5% daripada hanya 0.3% setahun sebelumnya. Seruan proaktif untuk peraturan daripada sektor kewangan ini menandakan potensi titik pergeseran dengan firma teknologi ketika mereka berlumba-lumba untuk mengintegrasikan AI ke dalam setiap aspek perdagangan digital.