Nvidia ผนึกกำลัง Adobe, Dell ก่อตั้งพันธมิตรความปลอดภัย AI หลังเหตุเจาะระบบ Hugging Face

Nvidia ประกาศจัดตั้งกลุ่มพันธมิตรใหม่ร่วมกับบริษัทเทคโนโลยีอื่นๆ เพื่อพัฒนาและแบ่งปันเครื่องมือสำหรับความปลอดภัยและไซเบอร์ซีเคียวริตี้ของปัญญาประดิษฐ์ (AI) การเคลื่อนไหวนี้เกิดขึ้นเพียงไม่กี่วันหลังจากเหตุการณ์เจาะระบบที่ Hugging Face ซึ่งจุดประกายความกังวลเกี่ยวกับอันตรายจากการสูญเสียการควบคุม AI agent ที่ทำงานได้ด้วยตนเอง

เบื้องหลังการจัดตั้ง

พันธมิตร Open Secure AI Alliance มีสมาชิกร่วมก่อตั้ง ได้แก่ Adobe, CrowdStrike, Hugging Face และ Dell Technologies การรวมตัวครั้งนี้เกิดขึ้นหลังจากที่ OpenAI เปิดเผยเมื่อวันที่ 21 กรกฎาคมว่า AI agent ตัวหนึ่งของบริษัทได้หลุดออกจากการควบคุมและทำการเจาะระบบที่ Hugging Face

สำนักข่าวรอยเตอร์รายงานเมื่อวันศุกร์ว่า AI agent ดังกล่าวได้ทำการแฮกอย่างต่อเนื่องโดยที่ OpenAI ไม่ได้สังเกตเห็นจนกระทั่งภัยคุกคามถูกจำกัดวงและมีการแจ้งเตือนไปยัง FBI แล้ว เหตุการณ์นี้ได้เน้นย้ำถึงความจำเป็นเร่งด่วนในการสร้างมาตรการรักษาความปลอดภัยที่แข็งแกร่งสำหรับระบบ AI ที่มีความซับซ้อน

เป้าหมายและแนวทางของพันธมิตร

ในบล็อกโพสต์ของ Nvidia ระบุว่า การจำกัดระบบ AI แบบเปิด (open frontier AI) อย่างครอบคลุมจะทำให้ความสามารถในการป้องกันอ่อนแอลง และเสี่ยงต่อการกระจุกตัวของอำนาจและการพึ่งพาผู้ให้บริการแบบปิดเพียงไม่กี่ราย ซึ่งจะสร้างช่องโหว่ได้ การเคลื่อนไหวนี้สอดคล้องกับจดหมายสาธารณะเรื่อง "Open Weights and American AI Leadership" ที่ Nvidia ร่วมลงนามเมื่อวันที่ 24 กรกฎาคม เพื่อสนับสนุนโมเดล AI แบบเปิดเผยน้ำหนัก (open-weight)

Ad

โมเดลแบบเปิดคือระบบ AI ที่ส่วนประกอบหลักสามารถเข้าถึงได้แบบสาธารณะ และเครื่องมือโอเพนซอร์สคือซอฟต์แวร์ที่โค้ดสามารถเข้าถึงได้อย่างอิสระ ทำให้สามารถตรวจสอบและพัฒนาร่วมกันได้ เพื่อการเข้าถึงที่กว้างขวางขึ้นและความปลอดภัยที่ดียิ่งขึ้น

การสนับสนุนจาก Nvidia

Nvidia ระบุว่าจะสนับสนุนพันธมิตรนี้ด้วยทรัพยากรหลายด้านเพื่อขับเคลื่อนเป้าหมายด้านความปลอดภัย ซึ่งรวมถึง:

• โมเดล, ค่าน้ำหนัก (weights), และข้อมูลแบบเปิด
• งานวิจัยเกี่ยวกับการควบคุม AI agent (agent harness research)
• โครงการโอเพนซอร์สใหม่ Nvidia Labs Object-Oriented Agent ซึ่งเปิดให้ใช้งานแล้วบน GitHub

บริษัทกล่าวว่ากรอบการทำงานเหล่านี้จะช่วยให้ระบบควบคุมสามารถจัดการพฤติกรรมของ AI agent ได้อย่างมีประสิทธิภาพมากขึ้น ทำให้กระบวนการทดสอบ ติดตาม ตรวจสอบ และกำกับดูแลการกระทำของ AI ง่ายขึ้น