เจมี ไดมอน ซีอีโอ JPMorgan ชี้ AI 'Mythos' ของ Anthropic มีความเสี่ยงร้ายแรง เปรียบเสมือน 'ขีปนาวุธ'

นายเจมี ไดมอน ประธานเจ้าหน้าที่บริหาร (ซีอีโอ) ของ JPMorgan Chase กล่าวเมื่อวันพุธว่า ความเสี่ยงที่เกิดจากโมเดลปัญญาประดิษฐ์ Mythos ของบริษัท Anthropic ถือเป็น "ปัญหาที่เกิดขึ้นจริง" ซึ่งรัฐบาลสหรัฐฯ กำลังจับตามองอย่างใกล้ชิด สะท้อนถึงความกังวลต่อโมเดล AI ที่ทรงพลังจนหน่วยงานรัฐต้องเข้ามาแทรกแซง

ความกังวลด้านความมั่นคง

นายไดมอนกล่าวในงานประชุมสุดยอดด้านการป้องกันและนวัตกรรม (Pennsylvania Defense and Innovation Summit) ของวุฒิสมาชิก เดฟ แมคคอร์มิค ว่าการเข้าถึงขีดความสามารถของ AI ขั้นสูงจำเป็นต้องถูกควบคุมอย่างเข้มงวด โดยเปรียบเทียบอย่างชัดเจนว่า "การให้เข้าถึง Mythos ก็เหมือนกับการมอบขีปนาวุธให้กับบุคคลทั่วไป"

โมเดล Mythos ซึ่ง Anthropic เปิดตัวให้กับกลุ่มผู้ใช้งานที่ได้รับเชิญ ซึ่งรวมถึง JPMorgan ในเดือนเมษายน ได้รับความสนใจจากสถาบันการเงินอย่างมาก เนื่องจากถือเป็นหนึ่งในระบบ AI ที่ล้ำหน้าที่สุดในการระบุช่องโหว่ด้านความปลอดภัยทางไซเบอร์ ช่วยให้บริษัทต่างๆ สามารถค้นหาและแก้ไขจุดอ่อนได้อย่างรวดเร็วยิ่งขึ้น

การแทรกแซงของรัฐบาลสหรัฐฯ

อย่างไรก็ตาม ในเดือนมิถุนายนที่ผ่านมา รัฐบาลสหรัฐฯ ได้มีคำสั่งให้ Anthropic จำกัดการเข้าถึงโมเดล AI ชั้นนำของตน ซึ่งได้แก่ Fable 5 และ Mythos 5 ไม่ให้ชาวต่างชาติใช้งานได้ ด้วยเหตุผลด้านความมั่นคงแห่งชาติ ส่งผลให้บริษัทต้องระงับการเข้าถึงทั่วโลกเป็นการชั่วคราว

Ad

คำสั่งดังกล่าวมีขึ้นท่ามกลางความกลัวว่า AI ที่มีความสามารถสูงอาจถูกหน่วยข่าวกรองทางทหารของจีน รัสเซีย หรือประเทศอื่นๆ ที่น่ากังวล นำไปใช้ในทางที่ผิด ทั้งนี้ รอยเตอร์สรายงานว่ารัฐบาลได้ยกเลิกข้อจำกัดดังกล่าวในภายหลัง หลังจากที่ Anthropic ได้นำมาตรการป้องกันใหม่มาใช้

บริบทของความปลอดภัย AI

ความคิดเห็นของนายไดมอนตอกย้ำถึงความท้าทายที่รัฐบาลและบริษัทเทคโนโลยีกำลังเผชิญเกี่ยวกับความปลอดภัยของ AI โดยเฉพาะอย่างยิ่งการนำระบบที่สามารถระบุช่องโหว่ของซอฟต์แวร์ไปใช้ในทางที่ผิด ขณะนี้รัฐบาลวอชิงตันได้เพิ่มการกำกับดูแลการเปิดตัวโมเดล AI ใหม่อย่างเข้มงวดขึ้น

ทั้งนี้ สำนักข่าวรอยเตอร์สระบุว่าไม่สามารถติดต่อ Anthropic เพื่อขอความคิดเห็นเกี่ยวกับคำกล่าวของนายไดมอนได้นอกเวลาทำการ