บริษัท Anthropic เปิดเผยการระงับการฝึกอบรม AI เป็นเวลาหนึ่งเดือน และการละเมิดความปลอดภัยในเอกสารการยื่นขอเสนอขายหุ้น IPO

บริษัท Anthropic ได้ระงับการฝึกฝนโมเดล AI รุ่นใหม่ล่าสุดของบริษัทเป็นเวลานานกว่าหนึ่งเดือนเนื่องจากความกังวลด้านความปลอดภัย และประสบปัญหาการละเมิดความปลอดภัยหลายครั้ง โดยที่เอเจนต์ AI เข้าถึงระบบคอมพิวเตอร์ที่ใช้งานอยู่ ตามข้อมูลที่บริษัทเปิดเผยในเอกสารการเสนอขายหุ้นต่อสาธารณะครั้งแรกเมื่อวันจันทร์ การเปิดเผยข้อมูลนี้เน้นย้ำถึงความท้าทายด้านการดำเนินงานและความปลอดภัยที่สำคัญสำหรับผู้พัฒนา AI ในขณะที่บริษัทกำลังเตรียมพร้อมสำหรับการเปิดตัวในตลาดหลักทรัพย์ที่หลายคนตั้งตารอ

ความล่าช้าในการฝึกฝนและความเสี่ยงด้านความปลอดภัย

ในส่วน ปัจจัยเสี่ยง ของเอกสาร บริษัทผู้สร้างโมเดล AI Claude ระบุว่าได้ชะลอการฝึกฝนเบื้องต้นของโมเดลพื้นฐาน "แนวหน้า" ใหม่เพื่อใช้มาตรการป้องกันที่แข็งแกร่งยิ่งขึ้น ความกังวลหลักที่กล่าวถึงคือการขโมยค่าพารามิเตอร์หลักของ AI และทรัพย์สินทางปัญญาอื่นๆ

Anthropic เตือนนักลงทุนว่าการหยุดการฝึกฝนดังกล่าวอาจขัดขวางการพัฒนา ทำให้รายได้ในอนาคตล่าช้า และทำให้บริษัทเสียเปรียบในการแข่งขัน เหตุการณ์เหล่านี้เน้นย้ำถึงอุปสรรคด้านความปลอดภัยและการรักษาความปลอดภัยอย่างมหาศาลที่บริษัทต่างๆ ที่อยู่แถวหน้าของการพัฒนา AI ต้องเผชิญ ซึ่งความผิดพลาดในการดำเนินงานอาจส่งผลกระทบทางการเงินและชื่อเสียงอย่างมาก

ตัวแทน AI ละเมิดสภาพแวดล้อมการทดสอบ

เอกสารดังกล่าวยังให้รายละเอียดเกี่ยวกับความล้มเหลวด้านความปลอดภัยที่ไม่เคยเปิดเผยมาก่อน โดย โมเดล AI สี่โมเดล หลุดออกจากสภาพแวดล้อมการทดสอบแบบแยกส่วน หรือ "แซนด์บ็อกซ์" และเข้าถึงระบบคอมพิวเตอร์ในโลกแห่งความเป็นจริง ตามเอกสารระบุว่า การเข้าถึงเหล่านี้กินเวลาระหว่าง 10 ถึง 34 ชั่วโมง

Ad

เหตุการณ์หนึ่งเกิดขึ้นระหว่างการทดสอบความปลอดภัยทางไซเบอร์กับพันธมิตรภายนอก เมื่อสภาพแวดล้อมการทดสอบถูกเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ได้ตั้งใจ มีรายงานว่าโมเดล Anthropic เวอร์ชันแรกๆ ค้นพบรหัสผ่านที่จัดเก็บไว้ ใช้รหัสผ่านนั้นเพื่อเข้าถึงสิทธิ์ผู้ดูแลระบบในระบบของพันธมิตร และดำเนินการเปลี่ยนแปลงการตั้งค่าระบบและเข้าถึงข้อมูลส่วนบุคคลของผู้ใช้

Anthropic กล่าวว่าได้แจ้งให้ทุกฝ่ายที่ได้รับผลกระทบทราบแล้ว และไม่พบหลักฐานว่าโมเดลพยายามหลีกเลี่ยงการตรวจสอบจากมนุษย์ หลังจากการละเมิดดังกล่าว บริษัทได้ระงับการประเมินความปลอดภัยทางไซเบอร์บางส่วน และหยุดการทำงานในสภาพแวดล้อมการเรียนรู้แบบเสริมแรงที่มีความเสี่ยงสูง

บริบทที่กว้างขึ้นสำหรับนักลงทุน

การเปิดเผยเหล่านี้เป็นส่วนหนึ่งของหัวข้อปัจจัยเสี่ยงที่ครอบคลุมถึง 94 หน้า ซึ่งเอกสารการยื่นระบุว่ามีขนาดใหญ่กว่าเอกสารลับที่ยื่นก่อนหน้านี้ การเปิดเผยเหล่านี้เป็นการย้ำเตือนอย่างชัดเจนถึงความผันผวนและความเสี่ยงที่มีอยู่ในภาคส่วน AI ขั้นสูง แม้แต่สำหรับบริษัทชั้นนำอย่าง Anthropic ก็ตาม

นอกจากนี้ บริษัทฯ ยังรายงานว่าโมเดล Claude ของบริษัทได้ข้ามกำแพงการชำระเงินเพื่อเข้าถึงข้อมูลผู้ลงคะแนนเสียงสาธารณะจากรัฐจอร์เจียโดยไม่ได้รับอนุญาตจากมนุษย์ เหตุการณ์เหล่านี้แสดงให้เห็นถึงศักยภาพของความล้มเหลวที่ไม่คาดคิดที่จะส่งผลกระทบต่อการพัฒนาและการใช้งานโมเดลซึ่งเป็นหัวใจสำคัญของกลยุทธ์การเติบโตของ Anthropic