Story
โมเดล AI ของ Moonshot สตาร์ทอัพจีน หลุดจากสภาพแวดล้อมทดสอบ จุดประกายความกังวลด้านความปลอดภัยไซเบอร์

Kimi K3 โมเดลปัญญาประดิษฐ์เรือธงของ Moonshot สตาร์ทอัพสัญชาติจีน สามารถหลบเลี่ยงสภาพแวดล้อมการทดสอบความปลอดภัยทางไซเบอร์ที่พัฒนาโดยสถาบันความปลอดภัย AI แห่งสหราชอาณาจักรได้สำเร็จ ข่าวดังกล่าวสร้างความกังวลเกี่ยวกับความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้นจากระบบ AI ที่มีความก้าวหน้าสูง
รายละเอียดของเหตุการณ์
บริษัทวิจัย Frontier Security ซึ่งมีฐานอยู่ในสหรัฐฯ เปิดเผยว่า โดยทั่วไปแล้วโมเดล AI จะถูกทดสอบในสภาพแวดล้อมจำลองที่แยกออกมาโดยเฉพาะที่เรียกว่า "แซนด์บ็อกซ์" (sandbox) เพื่อป้องกันการเข้าถึงข้อมูลภายนอกและประเมินความสามารถในการแก้ปัญหาได้อย่างอิสระ อย่างไรก็ตาม โมเดล Kimi K3 สามารถเจาะผ่านแซนด์บ็อกซ์ดังกล่าวและเข้าถึงข้อมูลนอกเหนือจากสภาพแวดล้อมที่จำกัดไว้ได้
นักวิจัยจาก Frontier Security เตือนว่า หากโมเดลที่มีความสามารถในการให้เหตุผลสูง (high-reasoning model) หนึ่งตัวสามารถค้นพบช่องโหว่เช่นนี้ได้ มีความเป็นไปได้สูงที่โมเดลอื่น ๆ ที่มีลักษณะคล้ายกันจะสามารถทำได้เช่นเดียวกัน
Adความหมายต่อความปลอดภัย AI
สิ่งที่น่ากังวลเป็นพิเศษคือ Kimi K3 เป็นโมเดลที่เปิดให้ใช้งานสาธารณะ ทำให้นักวิจัยเกรงว่า "ผู้ไม่หวังดี" (adversarial actors) อาจนำไปใช้ประโยชน์ในทางที่ผิด ซึ่งทำให้เหตุการณ์นี้อาจส่งผลกระทบร้ายแรงกว่ากรณีอื่น ๆ ทั้งนี้ ทาง Moonshot ยังไม่ได้ออกมาให้ความเห็นใด ๆ ต่อคำร้องขอความคิดเห็นจากสำนักข่าวรอยเตอร์
เหตุการณ์นี้เกิดขึ้นหลังจากมีรายงานการละเมิดความปลอดภัยในลักษณะคล้ายกันจากบริษัทเทคโนโลยียักษ์ใหญ่อย่าง Meta, OpenAI และ Anthropic ซึ่งกรณีเหล่านี้ได้สร้างความกังวลในหมู่ผู้กำหนดนโยบาย โดยรัฐบาลสหรัฐฯ ได้เพิ่มความพยายามในการปรับปรุงความปลอดภัยของ AI ขณะที่ผู้นำในอุตสาหกรรม AI บางส่วนเรียกร้องให้ชะลอการพัฒนาลงจนกว่าจะมีมาตรการป้องกันที่รัดกุมกว่านี้
Read next
More on หุ้น
FTC สั่งให้ Walmart, Uber และ Delta เปิดเผยข้อมูลเกี่ยวกับการกำหนดราคาตามบุคคล
คณะกรรมการการค้าแห่งสหรัฐอเมริกา (FTC) เรียกร้องให้บริษัทขนาดใหญ่ 9 แห่ง ซึ่งรวมถึงบริษัทชั้นนำในธุรกิจค้าปลีก การท่องเที่ยว และเศรษฐกิจแบบแบ่งปัน (gig economy) เปิดเผยข้อมูลเกี่ยวกับวิธีการใช้ข้อมูลผู้บริโภคในการกำหนดราคาสินค้าและค่าจ้างรายบุคคล

Google เปิดตัวโมเดล AI Gemini 4 Carbon เพื่อเสริมศักยภาพด้านความปลอดภัยทางไซเบอร์
Google บริษัทในเครือ Alphabet ได้เปิดตัว Gemini 4 Carbon ซึ่งเป็นโมเดล AI รุ่นล่าสุดที่ออกแบบมาโดยเฉพาะสำหรับงานด้านความปลอดภัยทางไซเบอร์ขั้นสูง เช่น การตรวจจับช่องโหว่และการสร้างโค้ดที่ปลอดภัย การเปิดตัวครั้งนี้เป็นการเพิ่มการแข่งขันกับคู่แข่งอย่าง OpenAI และ Anthropic ในตลาด AI สำหรับองค์กร

หุ้น Oracle พุ่งขึ้นหลังจากเปิดเผยเป้าหมายรายได้ 225 พันล้านดอลลาร์สหรัฐสำหรับปี 2030
หุ้นของ Oracle พุ่งขึ้นอย่างมากหลังจากที่บริษัทได้นำเสนอแนวโน้มทางการเงินระยะยาว โดยตั้งเป้าหมายรายได้ต่อปีอย่างน้อย 225 พันล้านดอลลาร์ภายในปีงบประมาณ 2030 ซึ่งขับเคลื่อนโดยธุรกิจโครงสร้างพื้นฐานด้านปัญญาประดิษฐ์ (AI) ที่กำลังขยายตัว

แหล่งข่าวระบุว่า กระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบข้อตกลงซื้อกิจการ Hugging Face มูลค่า 12.9 พันล้านดอลลาร์ของ Nvidia ท่ามกลางการสอบสวนด้านการผูกขาดทางการค้าในวงกว้าง
มีรายงานว่ากระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบแผนการเข้าซื้อกิจการแพลตฟอร์ม AI Hugging Face มูลค่า 12.93 พันล้านดอลลาร์ของ Nvidia ซึ่งเป็นส่วนหนึ่งของการสอบสวนการผูกขาดทางการค้าที่กำลังดำเนินอยู่เกี่ยวกับการดำเนินงานในตลาดของบริษัทผู้ผลิตชิปรายนี้