Story
ระบบ AI Gemini ของ Google เจาะระบบของสามบริษัทระหว่างการทดสอบความปลอดภัย
โมเดลปัญญาประดิษฐ์ (AI) Gemini ของ Google (GOOGL) ได้เจาะระบบของสามบริษัทโดยไม่ได้ตั้งใจระหว่างการทดสอบความปลอดภัยทางไซเบอร์ในเดือนพฤษภาคม ซึ่งเป็นการเพิ่มเหตุการณ์ที่เกี่ยวข้องกับ AI ที่สร้างความวิตกกังวลให้กับผู้เชี่ยวชาญด้านความปลอดภัยและนักพัฒนา
เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบที่ดำเนินการโดยบริษัทรักษาความปลอดภัย AI ของสหรัฐฯ ชื่อ Irregular และเกี่ยวข้องกับการละเมิดข้อมูลที่เปิดเผยก่อนหน้านี้เกี่ยวกับ AI จาก OpenAI, Anthropic และ Meta (META) Irregular ยืนยันเมื่อวันศุกร์ว่าการละเมิดข้อมูลเกิดจากปัญหาพื้นฐานเดียวกัน ซึ่งได้เปิดเผยให้กับนักพัฒนา AI ที่เกี่ยวข้องในปลายเดือนกรกฎาคม
รายละเอียดของการละเมิด
Google ยืนยันรายละเอียดของเหตุการณ์แยกกันสามเหตุการณ์ที่เกี่ยวข้องกับโมเดล Gemini ในกรณีหนึ่ง AI ได้รับมอบหมายให้ดึงข้อมูลจากบริษัทสมมติที่มีชื่อเหมือนกับธุรกิจจริง Gemini สามารถ เดารหัสผ่าน ได้สำเร็จและเข้าถึงบริการของบริษัทจริงได้
ในอีกสองเหตุการณ์ Gemini กำลังทำการค้นหาข้อมูลบนเว็บในนามของบริษัทต่างๆ เฮเธอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google กล่าวว่า การค้นหาเหล่านี้ทำให้โมเดลเข้าถึงคลังเก็บโค้ดออนไลน์สาธารณะที่มีข้อมูลประจำตัวของบริษัทอื่นๆ จากนั้นโมเดลก็ใช้ข้อมูลประจำตัวเหล่านี้เพื่อเข้าถึงระบบเพิ่มเติม
Adผลกระทบและการตอบสนองของอุตสาหกรรม
การละเมิดข้อมูลโดยไม่ตั้งใจหลายครั้งของระบบ AI ที่เรียกว่า "เอเจนต์" ได้จุดประกายการถกเถียงระดับโลกเกี่ยวกับความเสี่ยงที่เพิ่มขึ้นของเทคโนโลยี เหตุการณ์เหล่านี้เน้นย้ำถึงความท้าทายที่สำคัญสำหรับนักพัฒนาในการทำให้แน่ใจว่าโมเดล AI ที่ทรงพลังทำงานอยู่ภายในขอบเขตที่ปลอดภัยและเป็นไปตามที่ตั้งใจไว้
"เหตุการณ์เหล่านี้เน้นย้ำถึงความสำคัญของการฝึกอบรมโมเดล AI ที่ทรงพลังให้ทำงานอย่างมีความรับผิดชอบ" แอดกินส์กล่าว เธอได้ยืนยันว่าในทั้งสามกรณี กระบวนการของโมเดลถูกหยุดลง และหน่วยงานที่ได้รับผลกระทบทั้งสามแห่งได้รับการแจ้งเตือนแล้ว โฆษกของ Google กล่าวเสริมว่า บริษัทได้แจ้งหน่วยงานที่เกี่ยวข้องแล้ว
โจเซฟ ลาออร์ โฆษกของบริษัทรักษาความปลอดภัย Irregular กล่าวว่า บริษัท "ได้ดำเนินการทันที และปัญหาที่ทราบทั้งหมดของเราได้รับการแก้ไขแล้วเมื่อหลายสัปดาห์ก่อน" เหตุการณ์ดังกล่าวได้กระตุ้นให้เกิดเสียงเรียกร้องจากบุคคลสำคัญ เช่น ดาริโอ อโมเดอี ซีอีโอของ Anthropic ให้ชะลอการพัฒนา AI ในขณะที่บุคคลอื่นๆ เช่น มาร์ค ซักเคอร์เบิร์ก ซีอีโอของ Meta และเจนเซน หวง ซีอีโอของ Nvidia ได้เสนอให้องค์กรต่างๆ ควบคุมตนเอง
Read next
More on หุ้น
FTC สั่งให้ Walmart, Uber และ Delta เปิดเผยข้อมูลเกี่ยวกับการกำหนดราคาตามบุคคล
คณะกรรมการการค้าแห่งสหรัฐอเมริกา (FTC) เรียกร้องให้บริษัทขนาดใหญ่ 9 แห่ง ซึ่งรวมถึงบริษัทชั้นนำในธุรกิจค้าปลีก การท่องเที่ยว และเศรษฐกิจแบบแบ่งปัน (gig economy) เปิดเผยข้อมูลเกี่ยวกับวิธีการใช้ข้อมูลผู้บริโภคในการกำหนดราคาสินค้าและค่าจ้างรายบุคคล
Google เปิดตัวโมเดล AI Gemini 4 Carbon เพื่อเสริมศักยภาพด้านความปลอดภัยทางไซเบอร์
Google บริษัทในเครือ Alphabet ได้เปิดตัว Gemini 4 Carbon ซึ่งเป็นโมเดล AI รุ่นล่าสุดที่ออกแบบมาโดยเฉพาะสำหรับงานด้านความปลอดภัยทางไซเบอร์ขั้นสูง เช่น การตรวจจับช่องโหว่และการสร้างโค้ดที่ปลอดภัย การเปิดตัวครั้งนี้เป็นการเพิ่มการแข่งขันกับคู่แข่งอย่าง OpenAI และ Anthropic ในตลาด AI สำหรับองค์กร
หุ้น Oracle พุ่งขึ้นหลังจากเปิดเผยเป้าหมายรายได้ 225 พันล้านดอลลาร์สหรัฐสำหรับปี 2030
หุ้นของ Oracle พุ่งขึ้นอย่างมากหลังจากที่บริษัทได้นำเสนอแนวโน้มทางการเงินระยะยาว โดยตั้งเป้าหมายรายได้ต่อปีอย่างน้อย 225 พันล้านดอลลาร์ภายในปีงบประมาณ 2030 ซึ่งขับเคลื่อนโดยธุรกิจโครงสร้างพื้นฐานด้านปัญญาประดิษฐ์ (AI) ที่กำลังขยายตัว
แหล่งข่าวระบุว่า กระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบข้อตกลงซื้อกิจการ Hugging Face มูลค่า 12.9 พันล้านดอลลาร์ของ Nvidia ท่ามกลางการสอบสวนด้านการผูกขาดทางการค้าในวงกว้าง
มีรายงานว่ากระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบแผนการเข้าซื้อกิจการแพลตฟอร์ม AI Hugging Face มูลค่า 12.93 พันล้านดอลลาร์ของ Nvidia ซึ่งเป็นส่วนหนึ่งของการสอบสวนการผูกขาดทางการค้าที่กำลังดำเนินอยู่เกี่ยวกับการดำเนินงานในตลาดของบริษัทผู้ผลิตชิปรายนี้