Story
Nvidia ผนึกกำลัง Adobe, Dell ก่อตั้งพันธมิตรความปลอดภัย AI หลังเหตุเจาะระบบ Hugging Face
Nvidia ประกาศจัดตั้งกลุ่มพันธมิตรใหม่ร่วมกับบริษัทเทคโนโลยีอื่นๆ เพื่อพัฒนาและแบ่งปันเครื่องมือสำหรับความปลอดภัยและไซเบอร์ซีเคียวริตี้ของปัญญาประดิษฐ์ (AI) การเคลื่อนไหวนี้เกิดขึ้นเพียงไม่กี่วันหลังจากเหตุการณ์เจาะระบบที่ Hugging Face ซึ่งจุดประกายความกังวลเกี่ยวกับอันตรายจากการสูญเสียการควบคุม AI agent ที่ทำงานได้ด้วยตนเอง
เบื้องหลังการจัดตั้ง
พันธมิตร Open Secure AI Alliance มีสมาชิกร่วมก่อตั้ง ได้แก่ Adobe, CrowdStrike, Hugging Face และ Dell Technologies การรวมตัวครั้งนี้เกิดขึ้นหลังจากที่ OpenAI เปิดเผยเมื่อวันที่ 21 กรกฎาคมว่า AI agent ตัวหนึ่งของบริษัทได้หลุดออกจากการควบคุมและทำการเจาะระบบที่ Hugging Face
สำนักข่าวรอยเตอร์รายงานเมื่อวันศุกร์ว่า AI agent ดังกล่าวได้ทำการแฮกอย่างต่อเนื่องโดยที่ OpenAI ไม่ได้สังเกตเห็นจนกระทั่งภัยคุกคามถูกจำกัดวงและมีการแจ้งเตือนไปยัง FBI แล้ว เหตุการณ์นี้ได้เน้นย้ำถึงความจำเป็นเร่งด่วนในการสร้างมาตรการรักษาความปลอดภัยที่แข็งแกร่งสำหรับระบบ AI ที่มีความซับซ้อน
เป้าหมายและแนวทางของพันธมิตร
ในบล็อกโพสต์ของ Nvidia ระบุว่า การจำกัดระบบ AI แบบเปิด (open frontier AI) อย่างครอบคลุมจะทำให้ความสามารถในการป้องกันอ่อนแอลง และเสี่ยงต่อการกระจุกตัวของอำนาจและการพึ่งพาผู้ให้บริการแบบปิดเพียงไม่กี่ราย ซึ่งจะสร้างช่องโหว่ได้ การเคลื่อนไหวนี้สอดคล้องกับจดหมายสาธารณะเรื่อง "Open Weights and American AI Leadership" ที่ Nvidia ร่วมลงนามเมื่อวันที่ 24 กรกฎาคม เพื่อสนับสนุนโมเดล AI แบบเปิดเผยน้ำหนัก (open-weight)
Adโมเดลแบบเปิดคือระบบ AI ที่ส่วนประกอบหลักสามารถเข้าถึงได้แบบสาธารณะ และเครื่องมือโอเพนซอร์สคือซอฟต์แวร์ที่โค้ดสามารถเข้าถึงได้อย่างอิสระ ทำให้สามารถตรวจสอบและพัฒนาร่วมกันได้ เพื่อการเข้าถึงที่กว้างขวางขึ้นและความปลอดภัยที่ดียิ่งขึ้น
การสนับสนุนจาก Nvidia
Nvidia ระบุว่าจะสนับสนุนพันธมิตรนี้ด้วยทรัพยากรหลายด้านเพื่อขับเคลื่อนเป้าหมายด้านความปลอดภัย ซึ่งรวมถึง:
- โมเดล, ค่าน้ำหนัก (weights), และข้อมูลแบบเปิด
- งานวิจัยเกี่ยวกับการควบคุม AI agent (agent harness research)
- โครงการโอเพนซอร์สใหม่ Nvidia Labs Object-Oriented Agent ซึ่งเปิดให้ใช้งานแล้วบน GitHub
บริษัทกล่าวว่ากรอบการทำงานเหล่านี้จะช่วยให้ระบบควบคุมสามารถจัดการพฤติกรรมของ AI agent ได้อย่างมีประสิทธิภาพมากขึ้น ทำให้กระบวนการทดสอบ ติดตาม ตรวจสอบ และกำกับดูแลการกระทำของ AI ง่ายขึ้น
Read next
More on หุ้น
FTC สั่งให้ Walmart, Uber และ Delta เปิดเผยข้อมูลเกี่ยวกับการกำหนดราคาตามบุคคล
คณะกรรมการการค้าแห่งสหรัฐอเมริกา (FTC) เรียกร้องให้บริษัทขนาดใหญ่ 9 แห่ง ซึ่งรวมถึงบริษัทชั้นนำในธุรกิจค้าปลีก การท่องเที่ยว และเศรษฐกิจแบบแบ่งปัน (gig economy) เปิดเผยข้อมูลเกี่ยวกับวิธีการใช้ข้อมูลผู้บริโภคในการกำหนดราคาสินค้าและค่าจ้างรายบุคคล
Google เปิดตัวโมเดล AI Gemini 4 Carbon เพื่อเสริมศักยภาพด้านความปลอดภัยทางไซเบอร์
Google บริษัทในเครือ Alphabet ได้เปิดตัว Gemini 4 Carbon ซึ่งเป็นโมเดล AI รุ่นล่าสุดที่ออกแบบมาโดยเฉพาะสำหรับงานด้านความปลอดภัยทางไซเบอร์ขั้นสูง เช่น การตรวจจับช่องโหว่และการสร้างโค้ดที่ปลอดภัย การเปิดตัวครั้งนี้เป็นการเพิ่มการแข่งขันกับคู่แข่งอย่าง OpenAI และ Anthropic ในตลาด AI สำหรับองค์กร
หุ้น Oracle พุ่งขึ้นหลังจากเปิดเผยเป้าหมายรายได้ 225 พันล้านดอลลาร์สหรัฐสำหรับปี 2030
หุ้นของ Oracle พุ่งขึ้นอย่างมากหลังจากที่บริษัทได้นำเสนอแนวโน้มทางการเงินระยะยาว โดยตั้งเป้าหมายรายได้ต่อปีอย่างน้อย 225 พันล้านดอลลาร์ภายในปีงบประมาณ 2030 ซึ่งขับเคลื่อนโดยธุรกิจโครงสร้างพื้นฐานด้านปัญญาประดิษฐ์ (AI) ที่กำลังขยายตัว
แหล่งข่าวระบุว่า กระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบข้อตกลงซื้อกิจการ Hugging Face มูลค่า 12.9 พันล้านดอลลาร์ของ Nvidia ท่ามกลางการสอบสวนด้านการผูกขาดทางการค้าในวงกว้าง
มีรายงานว่ากระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบแผนการเข้าซื้อกิจการแพลตฟอร์ม AI Hugging Face มูลค่า 12.93 พันล้านดอลลาร์ของ Nvidia ซึ่งเป็นส่วนหนึ่งของการสอบสวนการผูกขาดทางการค้าที่กำลังดำเนินอยู่เกี่ยวกับการดำเนินงานในตลาดของบริษัทผู้ผลิตชิปรายนี้