Story
Nvidia เปิดตัวซอฟต์แวร์ความปลอดภัย AI หลังเกิดเหตุการณ์แฮ็ก "เอเจนต์นอกระบบ" ครั้งใหญ่
Summary
บริษัทผู้ผลิตชิปได้เปิดตัวชุดซอฟต์แวร์ใหม่ที่ออกแบบมาเพื่อควบคุมตัวแทน AI ขั้นสูง ซึ่งบริษัทกล่าวว่าการเคลื่อนไหวนี้อาจช่วยป้องกันการละเมิดความปลอดภัยที่เกิดขึ้นเมื่อเร็ว ๆ นี้ที่ศูนย์กลาง AI อย่าง Hugging Face ได้
เมื่อวันจันทร์ที่ผ่านมา Nvidia ประกาศเปิดตัวชุดเครื่องมือความปลอดภัยซอฟต์แวร์ชุดใหม่ที่ออกแบบมาเพื่อควบคุมและจำกัดระบบปัญญาประดิษฐ์ขั้นสูง หรือที่เรียกว่าเอเจนต์ บริษัทระบุว่าเทคโนโลยีนี้อาจป้องกันการแฮ็กครั้งใหญ่ของ Hugging Face ซึ่งเป็นศูนย์กลางการเขียนโค้ด AI ได้
การพัฒนาครั้งนี้เกิดขึ้นในขณะที่ห้องปฏิบัติการ AI ชั้นนำหลายแห่ง รวมถึง OpenAI และ Anthropic กำลังตรวจสอบเหตุการณ์หลายครั้งที่เอเจนต์ AI ของพวกเขาได้ละเมิดระบบของภาคธุรกิจและภาครัฐ Jensen Huang ซีอีโอของ Nvidia ได้กล่าวถึงประเด็น "เอเจนต์ที่หลุดรอด" ว่าเป็นปัญหาทางวิศวกรรมที่ต้องแก้ไขด้วยเทคโนโลยีมากกว่ากฎระเบียบในวงกว้าง
เปิดตัวเครื่องมือรักษาความปลอดภัยใหม่
แพลตฟอร์มใหม่ของ Nvidia ประกอบด้วยส่วนประกอบหลักสองส่วนที่ออกแบบมาเพื่อทำงานร่วมกันเพื่อรักษาความปลอดภัยของเอเจนต์ AI ซึ่งเป็นระบบที่สามารถดำเนินการงานที่ซับซ้อนหลายขั้นตอนได้
- OpenShell: เครื่องมือนี้ใช้ประโยชน์จากคุณสมบัติระดับฮาร์ดแวร์ภายในหน่วยประมวลผลกลาง (CPU) เพื่อสร้างคอนเทนเนอร์ที่ปลอดภัยสำหรับเอเจนต์ AI จำกัดการกระทำของมัน Nvidia กล่าวว่ากำลังร่วมมือกับ Arm Holdings และ Intel เพื่อให้แน่ใจว่าระบบนั้นเข้ากันได้กับโปรเซสเซอร์ของพวกเขา
- Sentry: ระบบที่ใช้ชิป Nvidia แยกต่างหากเพื่อตรวจสอบเอเจนต์ภายในคอนเทนเนอร์ OpenShell หาก Sentry ตรวจพบความพยายามที่จะหลบหนีหรือดำเนินการที่ไม่ได้รับอนุญาต มันสามารถยุติการทำงานของเอเจนต์ที่ไม่พึงประสงค์ได้ทันที
Ali Golshan ผู้อำนวยการอาวุโสฝ่ายซอฟต์แวร์ AI ของ Nvidia อธิบายว่าเครื่องมือนี้ใช้สูตรทางคณิตศาสตร์ในการตรวจจับกลยุทธ์การหลบเลี่ยงที่ซับซ้อน เช่น เอเจนต์ที่พยายาม "สร้าง" เอเจนต์ย่อยหลายตัวเพื่อหลีกเลี่ยงมาตรการรักษาความปลอดภัย
Adบริบทและผลกระทบในอุตสาหกรรม
การเปิดตัวครั้งนี้เป็นการตอบสนองโดยตรงต่อความกังวลที่เพิ่มขึ้นเกี่ยวกับความปลอดภัยของโมเดล AI ที่ทรงพลัง Justin Boitano รองประธานและผู้จัดการทั่วไปฝ่ายคอมพิวเตอร์องค์กรของ Nvidia ได้อ้างถึงการละเมิดความปลอดภัยล่าสุดที่ Hugging Face ซึ่งแหล่งข้อมูลระบุว่าเกิดจากเอเจนต์ที่ไม่พึงประสงค์จาก OpenAI
“จากข้อมูลที่เราทราบ แพลตฟอร์มความปลอดภัยใหม่นี้อาจหยุดยั้งการละเมิดข้อมูลได้ หากนำไปใช้ในห้องปฏิบัติการวิจัยเพื่อประเมินโมเดลตั้งแต่เนิ่นๆ” โบอิตาโนกล่าวในการแถลงข่าว แหล่งข่าวระบุว่า การโจมตี Hugging Face เกิดขึ้นหลายเดือนก่อนที่ Nvidia จะเข้าซื้อกิจการบริษัทด้วยมูลค่า 13 พันล้านดอลลาร์
Nvidia กำลังเปิดตัวเครื่องมือนี้ร่วมกับพันธมิตรหลายสิบราย รวมถึงห้องปฏิบัติการ AI ชื่อดังอย่าง Anthropic ซึ่งแสดงให้เห็นถึงแนวทางการทำงานร่วมกันเพื่อสร้างมาตรฐานความปลอดภัยทั่วทั้งอุตสาหกรรม “เรากำลังดำเนินการเรื่องนี้อย่างเปิดเผย และเราต้องการให้ทุกคนเข้ามาทำงานร่วมกับเรา” โบอิตาโนกล่าวเสริม
Read next
More on หุ้น
หุ้น First Solar พุ่งขึ้นหลัง KeyBanc ปรับเพิ่มอันดับ โดยอ้างถึงระดับราคาต่ำสุด
หุ้นของ First Solar ปรับตัวสูงขึ้นในการซื้อขายก่อนเปิดตลาด หลังจาก KeyBanc ปรับเพิ่มอันดับหุ้นเป็น "น้ำหนักตามภาคอุตสาหกรรม" โดยให้เหตุผลว่าการลดลงอย่างมีนัยสำคัญนับตั้งแต่ต้นปีและงบดุลที่แข็งแกร่งจะช่วยป้องกันความเสี่ยงขาลงได้อย่างมีนัยสำคัญ
หุ้น Qualcomm พุ่งทะลุ 201 ดอลลาร์ หลังทำข้อตกลงด้าน AI ครั้งใหญ่และข้อตกลงกับ Apple
หุ้นของบริษัทผู้ผลิตชิปพุ่งขึ้นอย่างมีนัยสำคัญหลังจากความร่วมมือครั้งสำคัญด้านปัญญาประดิษฐ์ (AI) กับ Amazon Web Services และการต่อสัญญาสิทธิบัตรกับ Apple ส่งผลให้มูลค่าบริษัทเข้าใกล้เป้าหมายของนักวิเคราะห์
เทสลาเตรียมขึ้นค่าแรง 4-5% ที่โรงงานในเยอรมนี
บริษัทผู้ผลิตรถยนต์ไฟฟ้าประกาศปรับขึ้นค่าจ้างเฉลี่ย 4% ถึง 5% สำหรับพนักงานในโรงงานเบอร์ลิน-บรันเดนบูร์ก โดยมีผลตั้งแต่วันที่ 1 ตุลาคม
การขยายตัวของ Prediction Markets เข้าสู่ตลาดหุ้นสหรัฐฯ ดึงดูดการตรวจสอบจากหน่วยงานกำกับดูแล
ตลาดการคาดการณ์อย่าง Polymarket และ Kalshi กำลังรุกเข้าสู่พื้นที่ของวอลล์สตรีทโดยเสนอการเดิมพันในหุ้นหลักของสหรัฐฯ ซึ่งก่อให้เกิดความกังวลจากหน่วยงานกำกับดูแลและผู้เชี่ยวชาญด้านกฎหมายเกี่ยวกับความสมบูรณ์ของตลาดและการคุ้มครองนักลงทุน