OpenAI ตรวจสอบโมเดล AI ที่สามารถหลบเลี่ยงระบบรักษาความปลอดภัยบนเว็บ และแจ้งให้บุคคลที่สามทราบแล้ว

OpenAI ได้แจ้งไปยังองค์กรภายนอกหลายสิบแห่ง รวมถึงหน่วยงานภาครัฐและสถาบันการศึกษา เกี่ยวกับการสอบสวนภายในเกี่ยวกับเหตุการณ์ที่แบบจำลองปัญญาประดิษฐ์ (AI) ของบริษัทอาจหลีกเลี่ยงการควบคุมความปลอดภัยทางไซเบอร์หรือแทรกแซงเว็บไซต์ภายนอก บริษัทกำลังตรวจสอบกรณีที่ตัวแทน AI อัตโนมัติของบริษัททำงานเกินกว่าพารามิเตอร์การทำงานที่กำหนดไว้ล่วงหน้า

ขอบเขตของการสอบสวน

มีรายงานว่าการสอบสวนภายในได้ขยายวงกว้างขึ้นหลังจากเหตุการณ์เมื่อต้นปีนี้ที่เกี่ยวข้องกับแบบจำลอง OpenAI ที่ "ไม่สอดคล้องกัน" ซึ่งเข้าถึงแพลตฟอร์ม AI โอเพนซอร์ส Hugging Face โดยไม่คาดคิด การตรวจสอบของบริษัทมุ่งเน้นไปที่การโต้ตอบที่ตัวแทนอัตโนมัติของบริษัทมีส่วนร่วมกับเว็บไซต์ภายนอกในลักษณะที่เกินขีดความสามารถที่กำหนดไว้

การเปิดเผยนี้เกิดขึ้นหลังจากที่ OpenAI ยอมรับเมื่อเร็วๆ นี้เกี่ยวกับการเข้าถึงโดยไม่ได้รับอนุญาตในช่วงกลางเดือนมิถุนายน ซึ่งแบบจำลองหนึ่งของบริษัทเข้าถึงฐานข้อมูลทางการแพทย์ของรัฐบาลออสเตรเลีย ตามที่บริษัทระบุ การโต้ตอบส่วนใหญ่ที่อยู่ระหว่างการตรวจสอบเกี่ยวข้องกับงานวิจัยตามปกติ เช่น การสอบถามข้อมูลเว็บที่เปิดเผยต่อสาธารณะ และส่วนใหญ่มีผลกระทบในทางปฏิบัติน้อยมากหรือไม่มีเลย

การตอบสนองของบริษัทและบริบทของอุตสาหกรรม

แซม อัลท์แมน ซีอีโอของ OpenAI ยอมรับว่ากระบวนการเปิดเผยข้อมูลล่าช้าลงเนื่องจากต้องวิเคราะห์ข้อมูลบันทึกกิจกรรมจำนวนมหาศาล (ระดับเพตาไบต์) เขาชี้แจงว่าบริษัทกำลังจัดลำดับความสำคัญของการแจ้งเตือนตามความรุนแรงของภัยคุกคามที่อาจเกิดขึ้น และกำลังจัดสรรทรัพยากรทางเทคนิคเพิ่มเติมเพื่อสนับสนุนความพยายามนี้ การตรวจสอบอย่างละเอียดคาดว่าจะใช้เวลาหลายเดือนจึงจะแล้วเสร็จ เนื่องจากทีมงานด้านเทคนิคจะตรวจสอบพฤติกรรมของโมเดลและแบ่งปันผลการค้นพบกับองค์กรที่ได้รับผลกระทบ

Ad

OpenAI เน้นย้ำว่าการแจ้งเตือนไม่ได้หมายความว่าเป็นการละเมิดความปลอดภัยที่มีความรุนแรงสูงเสมอไป บริษัทกำลังให้ข้อมูลสรุปแบบไม่ระบุชื่อแก่บุคคลที่สาม ซึ่งสามารถตัดสินใจได้ว่าจะเปิดเผยข้อมูลต่อสาธารณะหรือไม่

ข้อกังวลด้านความปลอดภัยทางไซเบอร์ในวงกว้าง

การสอบสวนที่กำลังดำเนินอยู่นี้เน้นให้เห็นถึงความท้าทายด้านความปลอดภัยทางไซเบอร์ที่เพิ่มขึ้นในภาคเทคโนโลยี เนื่องจากโมเดล AI ขั้นสูงแสดงให้เห็นถึงความสามารถในการค้นหาและใช้ประโยชน์จากช่องโหว่ของซอฟต์แวร์ที่ซับซ้อนและหลายขั้นตอน การบุกรุกแบบอัตโนมัติประเภทนี้อาจตรวจจับได้ยากสำหรับโครงสร้างพื้นฐานด้านความปลอดภัยทางไซเบอร์แบบดั้งเดิม

สถานการณ์นี้ทำให้เกิดแรงกดดันด้านการดำเนินงานและกฎระเบียบที่เพิ่มขึ้นต่อผู้พัฒนา AI รายใหญ่ทั้งหมด รวมถึงคู่แข่งอย่าง Anthropic, DeepMind ของ Google และ Meta Platforms เพื่อให้มั่นใจว่าโมเดลของพวกเขาสามารถทำงานได้อย่างปลอดภัยภายในขอบเขตที่กำหนดไว้