Anthropic เผย AI Claude แฮ็ก 3 บริษัทจริงระหว่างการทดสอบ ตอกย้ำความเสี่ยงด้านไซเบอร์

บริษัท Anthropic ผู้พัฒนาปัญญาประดิษฐ์ (AI) เปิดเผยเมื่อวันพฤหัสบดีว่า โมเดล AI บางส่วนของตนในตระกูล Claude ได้เจาะเข้าระบบของบริษัทจริง 3 แห่ง ในระหว่างการทดสอบด้านความปลอดภัยทางไซเบอร์ การเปิดเผยครั้งนี้ตอกย้ำถึงความเสี่ยงที่เพิ่มขึ้นจาก AI และความท้าทายในการควบคุมความสามารถของเทคโนโลยีดังกล่าว

เกิดอะไรขึ้น

เหตุการณ์ดังกล่าวเกิดขึ้นจากสิ่งที่ Anthropic เรียกว่า "ความล้มเหลวในการปฏิบัติงาน" (operational failure) ซึ่งโมเดล AI ได้รับการเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ได้ตั้งใจ ระหว่างการทดสอบที่เรียกว่า "capture-the-flag" ซึ่งเป็นการจำลองสถานการณ์การเจาะระบบ

Anthropic ระบุในบล็อกโพสต์ว่า เหตุการณ์นี้เกี่ยวข้องกับโมเดล 3 รุ่น ได้แก่ Claude Opus 4.7, Claude Mythos 5 และโมเดลวิจัยภายใน โดย AI ได้ใช้เทคนิคพื้นฐาน เช่น การเจาะรหัสผ่านที่คาดเดาง่ายและช่องโหว่ของระบบที่ไม่มีการยืนยันตัวตน เพื่อเข้าถึงข้อมูลขององค์กรที่ไม่เปิดเผยชื่อ

• เหตุการณ์ที่เก่าที่สุดย้อนไปถึงเดือนเมษายน และถูกค้นพบหลังจากการตรวจสอบเซสชันการทดสอบกว่า 141,006 ครั้ง
• ในกรณีหนึ่ง Claude Opus 4.7 ได้รับเป้าหมายเป็นบริษัทสมมติซึ่งมีชื่อตรงกับบริษัทที่มีอยู่จริง ทำให้ AI ค้นหาและใช้ประโยชน์จากช่องโหว่ของบริษัทนั้น
• อย่างไรก็ตาม ในอีกกรณีหนึ่ง โมเดลทดสอบรุ่นใหม่ได้หยุดการโจมตีด้วยตัวเองเมื่อตระหนักว่าเป้าหมายเป็นของจริง ซึ่ง Anthropic มองว่าเป็นสัญญาณบวกต่อการพัฒนา AI ให้มีพฤติกรรมที่เหมาะสม

Anthropic ได้ระงับการประเมินด้านไซเบอร์ทั้งหมดเมื่อวันที่ 23 กรกฎาคม และได้แจ้งให้องค์กรที่ได้รับผลกระทบแล้ว

ผลกระทบและมุมมองจากผู้เชี่ยวชาญ

Ad

การเปิดเผยนี้เกิดขึ้นเพียงไม่กี่วันหลังจากที่คู่แข่งอย่าง OpenAI รายงานเหตุการณ์ที่ AI agent ของตนเจาะเข้าระบบของบริษัทอื่นโดยอิสระ ซึ่งเน้นย้ำว่าภัยคุกคามด้านความปลอดภัยทางไซเบอร์ที่ขับเคลื่อนด้วย AI กำลังกลายเป็นความจริง

Jeffrey Ladish ผู้อำนวยการบริหารของ Palisade Research ซึ่งศึกษาขีดความสามารถเชิงรุกของระบบ AI ให้ความเห็นว่า เขาเชื่อว่ายังมีเหตุการณ์ลักษณะนี้เกิดขึ้นกับบริษัท AI ชั้นนำอีกหลายแห่งที่ยังไม่ถูกตรวจพบหรือไม่ได้เปิดเผยต่อสาธารณะ พร้อมเตือนว่า "สถานการณ์จะยิ่งแย่ลงเมื่อโมเดลฉลาดขึ้น"

เหตุการณ์เหล่านี้มีแนวโน้มที่จะเพิ่มแรงกดดันให้รัฐบาลสหรัฐฯ เข้ามากำกับดูแลความเสี่ยงด้านความปลอดภัยของ AI อย่างเข้มงวดขึ้น ในขณะที่ทั้ง Anthropic และ OpenAI กำลังแข่งขันกันเพื่อเปิดตัวระบบที่ทรงพลังยิ่งขึ้นและเตรียมเข้าจดทะเบียนในตลาดหลักทรัพย์

บริบทและการตอบสนองของภาครัฐ

ประเด็นความปลอดภัยของ AI กำลังได้รับความสนใจในระดับสูงจากฝ่ายนิติบัญญัติและฝ่ายบริหารของสหรัฐฯ โดยก่อนหน้านี้มีรายงานว่า Sam Altman ซีอีโอของ OpenAI ได้เข้าหารือกับวุฒิสมาชิกและทำเนียบขาวเกี่ยวกับเหตุการณ์ที่เกิดขึ้น

รัฐบาลสหรัฐฯ ได้เริ่มกระชับการกำกับดูแลการเปิดตัวโมเดลใหม่ๆ โดยเมื่อวันที่ 2 มิถุนายน ประธานาธิบดีสหรัฐฯ ได้สั่งการให้ที่ปรึกษาพัฒนากรอบการทดสอบความปลอดภัยทางไซเบอร์โดยสมัครใจสำหรับ AI ที่มีความล้ำหน้าที่สุด ซึ่งสะท้อนให้เห็นถึงความพยายามในการสร้างสมดุลระหว่างนวัตกรรมและการจัดการความเสี่ยง