Story
OpenAI จำกัดฟีเจอร์ความปลอดภัยไซเบอร์ของโมเดล Astra หวั่นเสี่ยงถูกใช้หาช่องโหว่ขั้นสูง
OpenAI เตรียมเปิดตัวโมเดลปัญญาประดิษฐ์ใหม่ล่าสุดชื่อ Astra แต่จะจำกัดการเข้าถึงความสามารถด้านความปลอดภัยทางไซเบอร์ขั้นสูง หลังจากบริษัทค้นพบว่าโมเดลดังกล่าวสามารถระบุและพัฒนาช่องโหว่ที่ไม่เคยถูกค้นพบมาก่อน (zero-day exploits) ได้โดยไม่ต้องมีการแทรกแซงจากมนุษย์
ขีดความสามารถที่น่ากังวล
เมื่อวันอังคารที่ผ่านมา OpenAI เปิดเผยว่าโมเดล Astra ได้ก้าวข้าม "เกณฑ์ความปลอดภัยทางไซเบอร์ขั้นวิกฤต" (critical cybersecurity threshold) ภายใต้กรอบการเตรียมความพร้อม (Preparedness Framework) ของบริษัท ทำให้ Astra เป็นโมเดลแรกที่ถูกจัดอยู่ในระดับนี้
ในระหว่างการประเมินภายใน Astra ได้แสดงให้เห็นถึงความสามารถในการค้นหาข้อบกพร่องด้านความปลอดภัยที่ไม่เคยมีใครรู้จักมาก่อน และสามารถพัฒนาวิธีการเพื่อใช้ประโยชน์จากช่องโหว่เหล่านั้นในระบบที่มีการป้องกันอย่างดีได้โดยไม่ต้องมีมนุษย์คอยชี้แนะในแต่ละขั้นตอน โดยบริษัทระบุว่าโมเดลได้ค้นพบและใช้ประโยชน์จากช่องโหว่ zero-day ถึงสองรายการในระหว่างการทดสอบ
มาตรการควบคุมและแผนการเปิดตัว
จากความเสี่ยงดังกล่าว OpenAI ได้หยุดการพัฒนาภายในบางส่วนของ Astra ชั่วคราวในเดือนสิงหาคมเพื่อผนวกรวมมาตรการป้องกันที่เข้มงวดขึ้น บริษัทได้วางแผนการเปิดตัวอย่างระมัดระวัง โดยมีขั้นตอนดังนี้
Ad- ช่วงเริ่มต้น: จะจำกัดความสามารถของโมเดลในการทำงานที่เกี่ยวข้องกับความปลอดภัยทางไซเบอร์ขั้นสูงไว้เฉพาะกลุ่มผู้ทดสอบที่ได้รับอนุมัติเท่านั้น
- ช่วงถัดไป: จะขยายการเข้าถึงให้ผู้ใช้กลุ่มใหญ่ขึ้น แต่จำกัดวัตถุประสงค์เพื่อการป้องกันภัยทางไซเบอร์ (defensive cybersecurity) ผ่านโครงการ Daybreak Blue
นอกจากนี้ บริษัทยังได้เพิ่มมาตรการป้องกันการใช้งานในทางที่ผิด เช่น การตรวจสอบพฤติกรรมที่ไม่ได้รับอนุญาตของโมเดล และระบบหยุดการทำงานที่น่าสงสัยโดยอัตโนมัติ ทั้งนี้ OpenAI ระบุว่า Astra สามารถปฏิเสธคำร้องขอให้ละเมิดข้อจำกัด (cyber jailbreak requests) ได้ถึง 91.5% เทียบกับ 59% ของโมเดล GPT-5.6 Sol
ผลกระทบและก้าวต่อไป
OpenAI ยอมรับว่าระบบป้องกันอาจทำงานผิดพลาดและระบุกิจกรรมที่ถูกกฎหมายว่าเป็นการใช้งานในทางที่ผิดได้ในบางครั้ง ซึ่งอาจทำให้การทำงานช้าลง หยุดชั่วคราว หรือยุติลงได้
บริษัทจะเปิดเผยรายละเอียดเพิ่มเติมเกี่ยวกับการทดสอบด้านความปลอดภัยและการปรับจูนโมเดลในเอกสาร "system card" ที่จะเผยแพร่พร้อมกับการเปิดตัว Astra อย่างเป็นทางการต่อไป
Read next
More on หุ้น
FTC สั่งให้ Walmart, Uber และ Delta เปิดเผยข้อมูลเกี่ยวกับการกำหนดราคาตามบุคคล
คณะกรรมการการค้าแห่งสหรัฐอเมริกา (FTC) เรียกร้องให้บริษัทขนาดใหญ่ 9 แห่ง ซึ่งรวมถึงบริษัทชั้นนำในธุรกิจค้าปลีก การท่องเที่ยว และเศรษฐกิจแบบแบ่งปัน (gig economy) เปิดเผยข้อมูลเกี่ยวกับวิธีการใช้ข้อมูลผู้บริโภคในการกำหนดราคาสินค้าและค่าจ้างรายบุคคล
Google เปิดตัวโมเดล AI Gemini 4 Carbon เพื่อเสริมศักยภาพด้านความปลอดภัยทางไซเบอร์
Google บริษัทในเครือ Alphabet ได้เปิดตัว Gemini 4 Carbon ซึ่งเป็นโมเดล AI รุ่นล่าสุดที่ออกแบบมาโดยเฉพาะสำหรับงานด้านความปลอดภัยทางไซเบอร์ขั้นสูง เช่น การตรวจจับช่องโหว่และการสร้างโค้ดที่ปลอดภัย การเปิดตัวครั้งนี้เป็นการเพิ่มการแข่งขันกับคู่แข่งอย่าง OpenAI และ Anthropic ในตลาด AI สำหรับองค์กร
หุ้น Oracle พุ่งขึ้นหลังจากเปิดเผยเป้าหมายรายได้ 225 พันล้านดอลลาร์สหรัฐสำหรับปี 2030
หุ้นของ Oracle พุ่งขึ้นอย่างมากหลังจากที่บริษัทได้นำเสนอแนวโน้มทางการเงินระยะยาว โดยตั้งเป้าหมายรายได้ต่อปีอย่างน้อย 225 พันล้านดอลลาร์ภายในปีงบประมาณ 2030 ซึ่งขับเคลื่อนโดยธุรกิจโครงสร้างพื้นฐานด้านปัญญาประดิษฐ์ (AI) ที่กำลังขยายตัว
แหล่งข่าวระบุว่า กระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบข้อตกลงซื้อกิจการ Hugging Face มูลค่า 12.9 พันล้านดอลลาร์ของ Nvidia ท่ามกลางการสอบสวนด้านการผูกขาดทางการค้าในวงกว้าง
มีรายงานว่ากระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบแผนการเข้าซื้อกิจการแพลตฟอร์ม AI Hugging Face มูลค่า 12.93 พันล้านดอลลาร์ของ Nvidia ซึ่งเป็นส่วนหนึ่งของการสอบสวนการผูกขาดทางการค้าที่กำลังดำเนินอยู่เกี่ยวกับการดำเนินงานในตลาดของบริษัทผู้ผลิตชิปรายนี้