ธนาคารทั่วโลกเตือนว่า ระบบ AI ที่ช่วยอำนวยความสะดวกในการซื้อสินค้าก่อให้เกิดความเสี่ยงด้านการฉ้อโกงและการละเมิดข้อมูลอย่างมาก

กลุ่มธนาคารชั้นนำระดับโลกหลายแห่ง รวมถึง Bank of America, NatWest และ Capital One ได้ออกมาเตือนเมื่อวันอังคารว่า การใช้งานตัวแทนปัญญาประดิษฐ์ (AI) ในการซื้อสินค้าออนไลน์ที่เพิ่มมากขึ้น อาจเพิ่มความเสี่ยงต่อการหลอกลวง การฉ้อโกง และการละเมิดข้อมูลส่วนบุคคลอย่างมีนัยสำคัญ ในรายงานร่วมกัน สถาบันการเงินเหล่านี้เรียกร้องให้มีการกำหนดมาตรฐานอุตสาหกรรมและการคุ้มครองผู้บริโภคให้ทันกับการพัฒนาอย่างรวดเร็วของเทคโนโลยี

ความเสี่ยงสำคัญใน 'การค้าผ่านตัวแทน'

ธนาคารเหล่านี้เน้นย้ำถึงการเติบโตของ "การค้าผ่านตัวแทน" ซึ่งแชทบอท AI เลือกสินค้าและทำการซื้อในนามของผู้ใช้ ซึ่งเป็นคุณสมบัติที่บริษัทเทคโนโลยีอย่าง Google, Meta และ OpenAI ส่งเสริมมากขึ้นเรื่อยๆ แม้จะยอมรับถึงความชื่นชอบของลูกค้าต่อความสะดวกสบาย แต่รายงานระบุว่าเทคโนโลยีนี้กำลังก้าวล้ำหน้าการพัฒนามาตรการป้องกันที่จำเป็น

ตามรายงาน ผู้บริโภคกังวลว่าตัวแทน AI อาจไม่ได้กระทำการเพื่อผลประโยชน์สูงสุดของพวกเขา ความเสี่ยงสำคัญที่ระบุ ได้แก่:

• ตัวแทน AI ขอรายละเอียดบัตรของลูกค้าและป้อนข้อมูลเหล่านั้นลงในเว็บไซต์โดยตรง
• ชักจูงผู้ใช้ไปยังวิธีการชำระเงินที่มีการคุ้มครองผู้บริโภคที่อ่อนแอกว่า
• ความเสี่ยงที่บอทจะซื้อสินค้าผิดรายการ ใช้จ่ายเกินงบ หรือตกเป็นเหยื่อของการหลอกลวง
• ความไม่ชัดเจนว่าใครเป็นผู้รับผิดชอบเมื่อธุรกรรมผิดพลาด

เรียกร้องให้มีมาตรฐานอุตสาหกรรม

Ad

กลุ่มพันธมิตร ซึ่งรวมถึง ING, Commonwealth Bank of Australia และ ASB Bank ของนิวซีแลนด์ วางแผนที่จะหารือกับผู้กำหนดนโยบายเพื่อกำหนดแนวทางที่ชัดเจน กลุ่มนี้เสนอหลักการหลายประการเพื่อให้มั่นใจถึงการพัฒนาอีคอมเมิร์ซที่ขับเคลื่อนด้วย AI อย่างปลอดภัย

ข้อเสนอต่างๆ ได้แก่ การเปิดเผยข้อมูลอย่างชัดเจนเมื่อตัวแทน AI มีส่วนเกี่ยวข้องในธุรกรรม ความโปร่งใสมากขึ้นเกี่ยวกับวิธีการตัดสินใจของตัวแทน AI และมาตรการป้องกันที่แข็งแกร่งเพื่อปกป้องข้อมูลลูกค้า ธนาคารยังเน้นย้ำว่าผู้บริโภคและผู้ค้าควรมีอิสระในการเลือกใช้บริการ AI ที่พวกเขาต้องการ และระบบต่างๆ ต้องสามารถทำงานร่วมกันได้

บริบทของตลาด

คำเตือนของธนาคารเกิดขึ้นในขณะที่การใช้ AI ในธุรกิจค้าปลีกกำลังเร่งตัวขึ้น รายงานดังกล่าวได้ยกตัวอย่างแนวโน้มนี้ โดยระบุว่าร้านค้าปลีกสัญชาติอังกฤษอย่าง John Lewis พบว่าการค้นหาสินค้าที่มาจากตัวแทน AI เพิ่มขึ้นจากเพียง 0.3% ในปีก่อน เป็น 2.5% การเรียกร้องให้มีการกำกับดูแลจากภาคการเงินนี้ บ่งชี้ถึงจุดที่อาจเกิดความขัดแย้งกับบริษัทเทคโนโลยีต่างๆ ในขณะที่พวกเขากำลังเร่งบูรณาการ AI เข้ากับทุกแง่มุมของการค้าดิจิทัล