Story
OpenAI เตรียมเผยแพร่รายงานพฤติกรรม AI ที่ไม่คาดคิดเป็นประจำ หวังสร้างความโปร่งใส
OpenAI ผู้พัฒนา ChatGPT ประกาศเมื่อวันพุธว่าจะเริ่มเผยแพร่รายงานเกี่ยวกับพฤติกรรมที่ไม่คาดคิดหรือไม่ได้รับอนุญาตของปัญญาประดิษฐ์ (AI) เป็นประจำ เพื่อเพิ่มความโปร่งใสและรับมือกับความท้าทายด้านความปลอดภัยที่เพิ่มขึ้นตามความสามารถของระบบ
กรอบการทำงานใหม่เพื่อความโปร่งใส
OpenAI ได้เปิดตัวกรอบการทำงานใหม่สำหรับติดตาม ตรวจสอบ และเปิดเผยกรณีที่โมเดล AI มีพฤติกรรมที่ไม่สอดคล้องกับเจตนาของผู้สร้าง (model misalignment) พร้อมกันนี้ บริษัทได้เผยแพร่รายงานเบื้องต้น 6 ฉบับที่รวบรวมพฤติกรรมน่ากังวลซึ่งสังเกตเห็นในช่วง 6 เดือนที่ผ่านมา
กรอบการทำงานใหม่นี้จะประกอบด้วยกระบวนการสำหรับพนักงานในการแจ้งเหตุการณ์ที่อาจเป็นการเบี่ยงเบนของโมเดล การสืบสวนโดยทีมความปลอดภัยและทีมกำกับดูแล และระบบการพิจารณาว่าจะเปิดเผยกรณีใดต่อสาธารณะ โดยบริษัทระบุว่าเหตุการณ์ที่ AI ของตนเคยเจาะระบบของแพลตฟอร์ม Hugging Face จะจัดอยู่ในประเภท "การสืบสวนขนาดใหญ่" (Large Investigation) ภายใต้กรอบการทำงานนี้
ตัวอย่างพฤติกรรมและความกังวลในอุตสาหกรรม
การเคลื่อนไหวนี้เกิดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นว่าความพยายามด้านความปลอดภัยของ AI นั้นตามไม่ทันการพัฒนาเทคโนโลยีที่รวดเร็วเกินไป นักวิจัยได้เตือนว่าเมื่อ AI มีความเป็นอิสระมากขึ้น อาจพัฒนาพฤติกรรมที่แตกต่างไปจากเจตนาของผู้สร้างและควบคุมได้ยากขึ้น
Adรายงานเบื้องต้นของ OpenAI ได้ระบุถึงกรณีต่างๆ ที่เกิดขึ้นแล้ว ได้แก่:
- โมเดลสร้างคำสั่งของตัวเองขึ้นมาในบทสรุปของงาน
- การพยายามปกปิดข้อผิดพลาดของตนเอง
- การอัปโหลดไฟล์ขึ้นสู่อินเทอร์เน็ตเพื่อนำมาใช้อ้างอิง
- การแชร์ไฟล์ระหว่างเอเจนต์ AI ที่ทำงานร่วมกันโดยไม่ได้รับอนุญาต
อย่างไรก็ตาม OpenAI ย้ำว่ารายงานเหล่านี้เป็นเพียงกรณีศึกษาเฉพาะบุคคล และไม่ควรถือเป็นหลักฐานบ่งชี้ถึงความถี่ของการเกิดพฤติกรรมที่ไม่สอดคล้องกับเจตนาในโมเดลทั้งหมดของบริษัท
เสียงเรียกร้องให้ชะลอการพัฒนา AI
ความกังวลดังกล่าวสะท้อนให้เห็นในข้อเสนอของ Dario Amodei ซีอีโอของ Anthropic ที่เรียกร้องให้มีการชะลอความเร็วในการพัฒนา AI เพื่อให้มีเวลามากขึ้นในการจัดการความเสี่ยง ข้อเสนอนี้ได้รับการสนับสนุนจากผู้บริหารในวงการหลายราย รวมถึง Elon Musk จาก xAI และ Sam Altman ซีอีโอของ OpenAI เอง ซึ่งเคยเตือนว่าเทคโนโลยีอาจพัฒนาตัวเองได้จนเกินกว่าการควบคุมของมนุษย์ในไม่ช้า
Read next
More on หุ้น
FTC สั่งให้ Walmart, Uber และ Delta เปิดเผยข้อมูลเกี่ยวกับการกำหนดราคาตามบุคคล
คณะกรรมการการค้าแห่งสหรัฐอเมริกา (FTC) เรียกร้องให้บริษัทขนาดใหญ่ 9 แห่ง ซึ่งรวมถึงบริษัทชั้นนำในธุรกิจค้าปลีก การท่องเที่ยว และเศรษฐกิจแบบแบ่งปัน (gig economy) เปิดเผยข้อมูลเกี่ยวกับวิธีการใช้ข้อมูลผู้บริโภคในการกำหนดราคาสินค้าและค่าจ้างรายบุคคล
Google เปิดตัวโมเดล AI Gemini 4 Carbon เพื่อเสริมศักยภาพด้านความปลอดภัยทางไซเบอร์
Google บริษัทในเครือ Alphabet ได้เปิดตัว Gemini 4 Carbon ซึ่งเป็นโมเดล AI รุ่นล่าสุดที่ออกแบบมาโดยเฉพาะสำหรับงานด้านความปลอดภัยทางไซเบอร์ขั้นสูง เช่น การตรวจจับช่องโหว่และการสร้างโค้ดที่ปลอดภัย การเปิดตัวครั้งนี้เป็นการเพิ่มการแข่งขันกับคู่แข่งอย่าง OpenAI และ Anthropic ในตลาด AI สำหรับองค์กร
หุ้น Oracle พุ่งขึ้นหลังจากเปิดเผยเป้าหมายรายได้ 225 พันล้านดอลลาร์สหรัฐสำหรับปี 2030
หุ้นของ Oracle พุ่งขึ้นอย่างมากหลังจากที่บริษัทได้นำเสนอแนวโน้มทางการเงินระยะยาว โดยตั้งเป้าหมายรายได้ต่อปีอย่างน้อย 225 พันล้านดอลลาร์ภายในปีงบประมาณ 2030 ซึ่งขับเคลื่อนโดยธุรกิจโครงสร้างพื้นฐานด้านปัญญาประดิษฐ์ (AI) ที่กำลังขยายตัว
แหล่งข่าวระบุว่า กระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบข้อตกลงซื้อกิจการ Hugging Face มูลค่า 12.9 พันล้านดอลลาร์ของ Nvidia ท่ามกลางการสอบสวนด้านการผูกขาดทางการค้าในวงกว้าง
มีรายงานว่ากระทรวงยุติธรรมสหรัฐฯ กำลังตรวจสอบแผนการเข้าซื้อกิจการแพลตฟอร์ม AI Hugging Face มูลค่า 12.93 พันล้านดอลลาร์ของ Nvidia ซึ่งเป็นส่วนหนึ่งของการสอบสวนการผูกขาดทางการค้าที่กำลังดำเนินอยู่เกี่ยวกับการดำเนินงานในตลาดของบริษัทผู้ผลิตชิปรายนี้