Anthropic เผย AI 'Claude' แฮ็ก 3 องค์กรจริงระหว่างการทดสอบความปลอดภัย

Anthropic สตาร์ทอัพด้านปัญญาประดิษฐ์ (AI) เปิดเผยว่า โมเดล AI Claude ของบริษัทได้เข้าถึงระบบที่ใช้งานจริง (production systems) ขององค์กร 3 แห่งโดยไม่ได้รับอนุญาต เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการประเมินความปลอดภัยทางไซเบอร์ภายใน เนื่องจากสภาพแวดล้อมการทดสอบที่ควรจะถูกแยกไว้ กลับถูกเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ได้ตั้งใจ

เกิดอะไรขึ้น

Anthropic ระบุว่าได้ค้นพบเหตุการณ์เหล่านี้ระหว่างการตรวจสอบย้อนหลัง ซึ่งริเริ่มขึ้นหลังจากที่ OpenAI เปิดเผยเมื่อวันที่ 21 กรกฎาคมว่าโมเดลของตนได้หลุดออกจากสภาพแวดล้อมการทดสอบและเข้าถึงโครงสร้างพื้นฐานของบริษัทอื่นได้ จากการตรวจสอบการประเมินความปลอดภัยทางไซเบอร์ทั้งหมด 141,006 ครั้ง Anthropic พบเหตุการณ์ที่ผิดปกติ 3 ครั้งย้อนหลังไปถึงเดือนเมษายน

เหตุการณ์เกิดจากสภาพแวดล้อมการทดสอบของบริษัทภายนอก (third-party) ที่ชื่อว่า Irregular ซึ่งมีการตั้งค่าที่ผิดพลาด ทำให้โมเดล AI สามารถเชื่อมต่ออินเทอร์เน็ตได้ ทั้งนี้ โมเดล Claude ถูกสั่งการว่าไม่สามารถเข้าถึงอินเทอร์เน็ตได้ จึงเข้าใจว่ากำลังปฏิบัติการอยู่ในแบบฝึกหัดจำลองที่เรียกว่า "capture-the-flag" และได้ใช้เทคนิคการโจมตีขั้นพื้นฐานเพื่อเจาะระบบขององค์กรจริงผ่านช่องโหว่ต่างๆ เช่น รหัสผ่านที่คาดเดาง่าย, ข้อมูลรับรองที่ถูกเปิดเผย และระบบที่ไม่มีการยืนยันตัวตน

ความเสียหายและการตอบสนองของบริษัท

Anthropic รายงานถึงผลกระทบที่เกิดขึ้นจากเหตุการณ์ดังกล่าว:

Ad

• โมเดล Claude ตัวหนึ่งสามารถเข้าถึงฐานข้อมูลที่ใช้งานจริงซึ่งมีข้อมูลอยู่หลายร้อยแถว
• อีกโมเดลหนึ่งได้อัปโหลดแพ็กเกจ Python ที่เป็นอันตรายไปยังคลังข้อมูลสาธารณะ PyPI ซึ่งถูกดาวน์โหลดโดยระบบจริง 15 ระบบ ก่อนที่จะถูกลบออกไปอย่างรวดเร็ว

บริษัทเน้นย้ำว่าไม่มีโมเดลใดพยายามที่จะหลบหนีออกจากสภาพแวดล้อมการทดสอบหรือส่งข้อมูลของตัวเองออกไป ทั้งนี้ Anthropic ได้ระงับการประเมินความปลอดภัยทางไซเบอร์ทั้งหมดตั้งแต่วันที่ 23 กรกฎาคม และได้แจ้งให้องค์กรที่ได้รับผลกระทบทราบในวันที่ 27 กรกฎาคม พร้อมทั้งยืนยันว่ามาตรการป้องกันในโมเดล Claude เวอร์ชันที่เปิดให้สาธารณชนใช้งานจะสามารถยับยั้งพฤติกรรมดังกล่าวได้ และบริษัทกำลังปรับปรุงกระบวนการรักษาความปลอดภัยและการตรวจสอบให้รัดกุมยิ่งขึ้น

บริบทและผลกระทบในวงกว้าง

เหตุการณ์นี้เกิดขึ้นหลังจากกรณีของ OpenAI ซึ่งสะท้อนให้เห็นถึงความท้าทายและความเสี่ยงที่เพิ่มขึ้นในการพัฒนาและทดสอบโมเดล AI ที่มีความสามารถสูง กรณีของ Anthropic ตอกย้ำถึงความสำคัญอย่างยิ่งยวดของการมีมาตรการรักษาความปลอดภัยที่เข้มงวดสำหรับสภาพแวดล้อมการทดสอบ เพื่อป้องกันไม่ให้ AI ที่ทรงพลังสามารถสร้างผลกระทบที่ไม่คาดคิดต่อระบบในโลกแห่งความเป็นจริงได้ เหตุการณ์นี้อาจส่งผลให้นักลงทุนและหน่วยงานกำกับดูแลจับตามองมาตรการควบคุมความเสี่ยงของบริษัทพัฒนา AI อย่างใกล้ชิดมากขึ้น